فخرج إليه مروان وبنو أمية جميعًا معه وهو بالجابية، والناس بها مختلفون، فدعاه إلى البيعة فقال حسان: والله لئن بايعتم مروان ليحسدنكم علاقة سوط وشراك نعل وظل شجرة، إن مروان وآل مروان أهل بيت من قيس - يريد أن مروان أبو عشرة وأخو عشرة - فإن بايعتم له كنتم عبيدًا لهم، فأطيعوني وبايعوا خالد بن يزيد. فقال روح بن زنباع: بايعوا الكبير واستشبوا الصغير. فقال حسان بن مالك لخالد: يا ابن أختي هواي فيك وقد أباك الناس للحداثة، ومروان أحب إليهم منك ومن ابن الزبير. قال: بل عجزت. قال: كلا.
فبايع حسان وأهل الأردن لمروان على أن لا يبايع مروان لأحد إلا لخالد بن يزيد، ولخالد إمرة حمص، ولعمرو بن سعيد إمرة دمشق. فكانت بيعة مروان بالجابية يوم الاثنين للنصف من ذي القعدة سنة أربع وستين. وبايع عبيد الله بن زياد لمروان بن الحكم أهل دمشق، وكتب بذلك إلى مروان، فقال مروان: إن يرد الله أن يتمم لي خلافة لا يمنعنيها أحد من خلقه. فقال حسان بن مالك: صدقت.
وسار مروان من الجابية في ستة آلاف حتى نزل مرج راهط، ثم لحق به من أصحابه من أهل دمشق وغيرهم من الأجناد سبعة آلاف، فكان في ثلاثة عشر ألفًا أكثرهم رجالة، ولم يكن في عسكر مروان غير ثمانين عتيقًا، أربعون منهم لعباد بن زياد، وأربعون لسائر الناس.
وكان على ميمنة مروان عبيد الله بن زياد وعلى ميسرته عمرو بن سعيد. وكتب الضحاك بن قيس إلى أمراء الأجناد فتوافوا عنده بالمرج، فكان في ثلاثين ألفًا، وأقاموا عشرين يومًا يلتقون في كل يوم فيقتتلون حتى قتل الضحاك بن قيس، وقتل معه من قيس بشر كثير.
فلما قتل الضحاك بن قيس وانهزم الناس، رجع مروان ومن معه إلى دمشق، وبعث عماله إلى الأجناد، وبايع له أهل الشام جميعًا، وكان مروان قد أطمع خالد بن يزيد بن معاوية ف بعض الأمر، ثم بدا له، فعقد لابنيه عبد الملك وعبد العزيز ابني مروان بالخلافة بعده.