وقدم صالح بن علي عاملًا على مصر، وقد هرب مروان إليها، فاتبعه، فألجأه إلى قرية بوصير من كورة أشمون من الصعيد، فلم يزل مواقفًا له، والحرب بينهما، ثم أرسل إليه مروان: متى ظفرت بهذا الأمر فأوصيك بالحرم خيرًا فأرسل إليه صالح: يا جاهل! إن الحق لنا عليك في نفسك، ولك علينا في حرمك.
وانصرف عبد الله بن علي راجعا إلى دمشق وصالح في قتال مروان، ثم قتل مروان في المعركة، وصاحب الجيش عمر بن إسماعيل الحارثي، وكانت مدة مروان في ولايته إلى أن قتل خمس سنين، وقتل في ذي الحجة سنة 132، وهو ابن أربع وستين سنة، وقيل: ثمان وستين سنة، وحز رأسه، فلما قور جاءه هر فأخذ لسانه، وحمل الرأس إلى أبي العباس، فلما وضع بين يديه قال: أيكم يعرف هذا؟ فقال سعيد بن عمرو بن جعدة: هذا رأس مروان ابن محمد بن مروان بن الحكم، خليفتنا بالأمس. فأنكر الناس ذلك عليه، فقال أبو العباس: ما أراد الشيخ بهذا القول إلا الوفاء.
وكان الغالب على مروان أبو حديدة السلمي، وإسماعيل بن عبد الله القسري، وإسحاق بن مسلم العقيلي، وعلى شرطة الكوثر بن الأسود الغنوي، وهو الذي قال له يومًا في قتاله: انزل، ويلك! فقاتل، فأبى أن يفعل، فقال مروان: والله لأسوءنك! فقال: وددت والله أنك تقدر على ذلك، وكان على حرسه سقلاب مولاه، وحاجبه سليم مولاه.
وكان له من الولد الذكور أربعة: عبد الملك، وعبد الله، وعبيد الله، ومحمد، وكان عبد الله وعبيد الله ابنا مروان ليلة قتل مروان توجها نحو الصعيد، ثم صار إلى بلاد النوبة، وتلاحق بهما جماعة من أصحاب مروان، فصاروا زهاء أربعة آلاف، وتخلف عبد الحميد بن يحيى كاتب مروان بمصر، واستتر حتى دل عليه صالح بن علي.
وخرج مع عبد الله وعبيد الله جماعة من نسائهم من البنات والأخوات وبنات العم ماشيات، هائمات على وجوههن، حتى مر رجل من أهل الشام بصبية ملقاة تنكر، وإذا هي بنت لمروان بنت ست سنين، فحملها معه حتى دفعها إلى عبد الله بن مروان.
ووافى القوم بلاد النوبة فأكرمهم عظيم النوبة ثم قالوا: نقر في بعض هذه الحصون التي في بلاد النوبة، فلعلنا نتخذ منها معقلا، ونقاتل من يلينا من العدو، وندعو إلى طاعتنا لعل الله أن يرد علينا بعض ما أخذ منا. فقال لهم عظيم النوبة: إن هذه الأغربة، يريد السودان، كثير عددها، قليل سلبها، وإني لا آمن عليكم أن تصابوا فيقال: أنت قتلتهم. فقالوا: نحن نكتب لك كتابًا أنا وردنا بلادك، فأكرمت مثوانا، وأحسنت جوارنا، وجهدت ألا نبرح من عندك، فأبينا حتى خرجنا، ونحن لك شاكرون. ثم خرجوا، فأخذوا في بلاد العدو فكانوا ربما لقوا الجيش من الحبشة، فقاتلوهم حتى صاروا إلى بجاوة، فلقيهم عظيم البجة، فقاتلهم، وانصرفوا يريدون اليمن، فمروا في البلاد، وعرض لعبد الله وعبيد الله طريقان بينهما جبل، فأخذ كل واحد منهما في طريق، وهما يريان أنهما يلتقيان بعد ساعة، فسارا يومهما ذلك، ثم راما الرجوع فلم يقدرا عليه، وسارا أيامًا، ثم لقي عبيد الله منسرًا من مناسر الحبشة، فقاتلهم، وزرقه رجل منهم بمزراق، فقتل عبيد الله، واستأسر أصحابه، فأخذت الحبشة كل ما معهم، وتركوهم، فمروا في البراري على وجوههم عراة حفاة، حتى أهلكهم العطش، فكان الرجل يبول في يده ويشربه، ويبول ويعجن به الرمل ويأكله، حتى لحقوا عبد الله بن مروان وقد ناله من العرى والشدة أكثر مما نالهم، ومعه عدة من حرمه عراة حفاة ما يواريهن شيء، قد تقطعت أقدامهن من المشي وشربن البول حتى تقطعت شفاههن، حتى وافوا المندب، فأقاموا بها شهرًا، وجمع الناس لهم شيئًا، ثم خرجوا يريدون مكة في زي الحمالين.
وأقام الحج في أيام مروان في سنتي 127و128 عبد العزيز بن عمرة بن عبد العزيز، سنة 129 عبد الواحد بن سليمان بن عبد الملك، ووافى معه الحج أبو حمزة المختار بن عوف الإباضي، صاحب الأعور عبد الله بن يحيى الكندي، والذي يسمي نفسه طالب الحق، سنة 130 عبد الملك بن محمد بن مروان، سنة 131 محمد بن عبد الملك بن عطية السعدي، وقيل هي آخر حجة لبني أمية، ولم يغز في أيام مروان.