وتوجه زهير بن المسيب الضبي إلى فارس، فأخذها وبايع بها، وصار طاهر إلى واسط لثلاث خلون من رجب بعد أن بايع أهل البصرة للمأمون على يد منصور بن المهدي، وبالكوفة على يد الفضل بن موسى بن عيسى، وبالموصل على يد المطلب بن عبد الله، وبمصر على يد عباد بن محمد، وبالرقة على يد الحسين بن علي بن ماهان، فأخرجه من كان بها من الزواقيل وغيرهم، فقدم بغداد لثمان خلون من رجب سنة 196، فأنكر مذهب محمد، وبلغه عنه ما يكره، فدعا الجند ببغداد إلى بيعة المأمون، فأجابوه، فوثب على محمد، فحبسه وأمه وولده، فلما حبسهم طالبه الجند بأرزاقهم، فاعتل عليهم، فقبضوا عليه، وأخرجوا محمدًا وأمه وولده من الحبس، وبايعوه، وضربوا عنق الحسين ابن علي، فسألوا محمدًا في أرزاقهم، فأعطاهم خمسمائة خمسمائة، وقارورة غالية، وعقد أربعمائة لواء لقواد شتى، واستعمل عليهم علي بن محمد بن عيسى بن نهيك، وأمرهم بالمسير إلى هرثمة، وهرثمة يومئذ معسكر بالنهروان، فالتقوا في شهر رمضان، فهزمهم وأسر علي بن محمد بن عيسى بن نهيك، وبعث به إلى المأمون.
وزحف بجيشه حتى صار بموضع يقال له نهريين، من بغداد على فرسخ أو فرسخين وصار طاهر بنهر صرصر على أربعة فراسخ من بغداد، وكان طاهر في الجانب الغربي وهرثمة في الجانب الشرقي، وحرب بغداد قائمة في الجانبين جميعًا، إلا أن الأسواق قائمة، والتجار على حالهم لا يهاجون، وتجتمع على التاجر الواحد جماعة من أصحاب المأمون وجماعة من أصحاب محمد، فلا يكون بينهم تنازع، ووثب الأبناء والحربية بمحمد، ودعوا للمأمون، وكاتبوا طاهرا، وأعطوه الرهائن، فدخل طاهر بغداد، فاشتق الجانب الغربي إلى باب الأنبار.
وكان محمد قد حبس سليمان بن أبي جعفر وإبراهيم بن المهدي لأمر بلغه، فلما صار هرثمة على باب بغداد أخرجهما من الحبس، ووجه بهما مع جماعة من بني هاشم إلى هرثمة يدعونه إلى طاعته ويجعل له ما أراد من الأموال والقطائع، فقال لهم هرثمة: لو لا أن لا تقتل الرسل لضربت أعناقكم، فانصرفا إلى محمد! وخلى سبيلهما.
ووثب أهل شرقي بغداد بمحمد، ودعوا للمأمون، وأجلوا خزيمة بن خازم التميمي، فصار إلى الجسر، فقطعه.
ودخل زهير بن المسيب من كلواذى في السفن، وفيها المنجنيقات والعرادات، فصار محمد إلى قصره المعروف بالخلد في غربي بغداد، فتحصن به، فرماه زهير بالمنجنيق.
ودخل هرثمة من باب خراسان من عسكر المهدي، وهو الجانب الشرقي من بغداد، ودخل طاهر من معسكره إلى مدينة أبي جعفر، وأحدقوا بالخلد، فخرج محمد من باب خراسان، حتى أتى دجلة يريد هرثمة، فبلغ أصحاب طاهر ذلك، فوثبوا بهرثمة، وهو في حراقة له حتى غرقوه، وأخرجوه بعد ساعة، وخرج محمد في غلالة وسراويل، حتى جلس على الشط، والعسكر يمر به ولا يعرفه، حتى مر به مولى لشكله، فعرفه، فحمله إلى منزله.
ثم أتى طاهر بن الحسين بخبره، فوقعت بين طاهر وبين هرثمة وزهير منازعة، فأمر طاهر قريشًا الدنداني مولاه، فضرب عنقه، ونصب رأسه على رمح، ومضى به إلى معسكره بالبستان، ثم بعث به إلى المأمون. فكان مقتله يوم الأحد من المحرم سنة 198، وسمعت من يقول: لخمس خلون من صفر، وكتب طاهر إلى المأمون كتابًا بخطه: أما بعد، فإن المخلوع، وإن كان قسيم أمير المؤمنين في النسب واللحمة، فقد فرق حكم الكتاب بينه وبينه في الولاية والحرمة لمفارقته عصمة الدين، وخروجه من الأمر الجامع للمسلمين. يقول الله عز وجل، فيما قص علينا من نبإ نوح يا نوح، إنه ليس من أهلك، إنه عمل غير صالح، ولا طاعة لأحد في معصية الله ولا قطيعة، إذا ما كانت القطيعة في ذات الله. وكتابي هذا إلى أمير المؤمنين، وقد قتل الله المخلوع، وأسلمه بغدره ونكثه، وأحصد لأمير المؤمنين أمره، وأنجز له ما كان ينتظره من سابق وعده، والحمد لله الراجع إلى أمير المؤمنين حقه، الكائد له فيمن خان عهده ونقض عقده، حتى رد به الألفة بعد فرقتها، وجمع به الأمة بعد شتاتها، فأحيا به أعلام الدين بعد دثور سرائرها.
ثم كتب كتابًا بالفتح يشرح فيه خبره منذ يوم شخص من خراسان، وما عمل في بلد بلد ويوم يوم جعلناه في كتاب مفرد.