وكان قد سمع أبا نعيم الفضل بن دكين وعفان بن مسلم وعبيد الله بن محمد ابن عائشة وأحمد بن حنبل وعثمان بن أبي شيبة وعبيد الله القواريري وخلقا من أمثالهم روى عنه موسى بن هارون الحافظ ويحيى بن صاعد وأبو بكر بن أبي داود والحسين المحاملي ومحمد بن مخلد وأبو بكر الأنباري النحوي وأبو عمر الزاهد صاحبه وخلق كثير غيرهم وكان إماما في العلم رأسا في الزهد عارفا بالفقه بصيرا بالأحكام حافظا للحديث مميزا لعلله قيما بالأدب جماعا للغة وصنف كتبا كثيرة منها كتاب غريب الحديث
وأصله من مرو وكان يقول أمي تغلبية وأخوالي نصارى أكثرهم وقيل لم سميت إبراهيم الحربي فقال صحبت قوما من الحربية فسموني الحربي بذلك وحدث أحمد بن عبد الله بن خالد بن ماهان المعروف بابن أسد قال سمعت إبراهيم الحربي يقول أجمع عقلاء الأمة أنه من لم يجر مع القدر لم يهنأ بعيشه كان يكون قميصي أنظف قميص وإزاري أوسخ إزار ما حدثت نفسي أنهما يستويان قط وفرد عقبي مقطوع وفرد عقبي الآخر صحيح أمشي بهما وأدور بغداد كلها هذا الجانب وذاك الجانب لا أحدث نفسي أني أصلحهما وما شكوت إلى أمي ولا إلى أختي ولا إلى امرأتي ولا إلى بناتي قط حمى وجدتها الرجل هو الذي يدخل غمه على نفسه ولا يغم عياله
كان بي شقيقة خمسا وأربعين سنة ما أخبرت بها أحدا قط ولي عشر