أمابالنسبة لسيرة هذا الإمام وأخلاقه، فإنه -رحمه الله- كان صاحب ورعٍ ونزاهةٍ.
قال ابن حبان في الحديث عن الأئمة النقاد في الحديث:"مِن أورعهم في الدين، وأكثرهم تفتيشًا عن المتروكين، وألزمهم بهذه الصناعة على دائم الأوقات: أحمد بن حنبل، ويحيى بن معين، وعلي بن المديني رحمة الله تعالى عليهم أجمعين"، فعدَّ علي بن المديني منهم.