قد ذكرنا ما كان من أبي سلمة في أمر أبي العبّاس السفّاح ومن كان معه من بني هاشم عند قدومهم الكوفة بحيث صار عندهم متّهما، وتغيّر السفّاح عليه وهو بعسكره بحمّام أعين، ثمّ تحوّل عنه إلى المدينة الهاشميّة فنزل قصر الإمارة بها وهو متنكّر لأبي سلمة. وكتب إلى أبي مسلم يعلمه رأيه فيه وما كان همّ به من الغشّ، وكتب إليه أبو مسلم: إن كان أمير المؤمنين اطلع على ذلك منه فليقتله.
فقال داود بن عليّ للسفّاح: لا تفعل يا أمير المؤمنين فيحتجّ بها أبو مسلم عليك وأهل خراسان الّذي معك أصحابه، وحاله فيهم حاله، ولكن اكتب إلى أبي مسلم فليبعث إليه من يقتله.
فكتب إليه، فبعث أبو مسلم مرار بن أنس الضّبّيّ لقتله، فقدم على السفّاح فأعلمه بسبب قدومه، فأمر السفّاح مناديا فنادى: إنّ أمير المؤمنين قد رضي عن أبي سلمة ودعاه فكساه، ثمّ دخل عليه بعد ذلك ليلة فلم يزل عنده حتّى ذهب عامّة الليل، ثمّ انصرف إلى منزله وحده، فعرض له مرار ابن أنس ومن معه من أعوانه فقتلوه وقالوا: قتله الخوارج، ثمّ أخرج من الغد فصلّى عليه يحيى بن محمد بن عليّ ودفن بالمدينة الهاشميّة عند الكوفة، فقال سليمان بن المهاجر البجليّ.
إنّ الوزير وزير آل محمّد ... أودى فمن يشناك صار وزيرا
وكان يقال لأبي سلمة: وزير آل محمّد، ولأبي مسلم: أمير آل محمّد.
فلمّا قتل أبو سلمة وجّه السفّاح أخاه أبا جعفر إلى أبي مسلم، فلمّا قدم على أبي مسلم سايره عبيد اللَّه بن الحسن الأعرج وسليمان بن كثير، فقال