ولما دخل المهدي العباسي المسجد النبوي عام حجَّ قال له المسيب بن زهير: قم هذا أمير المؤمنين, فقال ابن أبي ذئب، إنما يقوم الناس لرب العالمين, فقال المهدي: اتركه, فلقد قامت كل شعرة في رأسي. ولما سأل المنصور مالكًا عمَّن بقي من المشيخة قال له: ابن أبي ذئب وابن أبي سلمة1، وابن أبي سبرة2.
وكان بينه وبين مالك ألفة أكيدة، توفي سنة 159 تسع وخمسين ومائة عن ثمان وسبعين3.
1 الماجشون عبد العزيز بن عبد الله.
2 أبو بكر بن عبد الله، تهذيب التهذيب"12/ 27".
3 أبو الحارث محمد بن عبد الرحمن بن المغيرة بن الحارث بن أبي ذئب: تاريخ بغداد"2/ 296"، وتهذيب التهذيب"3/ 303"، والنجوم الزاهرة:"2/ 35".