ولقد اجتمع نفر من أصحابه يومًا وقالوا: تعالوا نعد خصال ابن المبارك من أبواب الخير، فقالوا: جمع العلم، والفقه، والأدب، والنحو، واللغة، والشعر، والفصاحة والزهد، والورع، والإنصاف، وقيام الليل، والعبادة، والفروسية، والشجاعة، والشدة في بدنه، وترك الكلام في ما لا يعنيه.. حتى أجهدهم العدُّ.

ولقد قدر الناس عبد الله بن المبارك وزادت مهابته لديهم على مهابة هارون الرشيد.. رُوي أن هارون الرشيد قدم ذات يوم إلى (الرقَّة) فوجد الناس يجرون خلف عبد الله بن المبارك لينظروا إليه، ويسلموا عليه، فنظرت زوجة هارون الرشيد من شباك قصرها، فلما رأت الناس قالت: ما هذا ؟! قالوا: عالم من خراسان قدم (الرقَّة) يقال له (عبد الله بن المبارك) فقالت: هذا والله الملك، لا ملك هارون الذي لا يجمع الناس إلا بالشرطة والأعوان.

وفي يوم من أيام شهر رمضان سنة 181هـ توفي عبد الله بن المبارك وهو راجع من الغزو، وكان عمره ثلاثة وستين عامًا، ويقال: إن الرشيد لما بلغه موت عبدالله، قال: مات اليوم سيد العلماء.