[الحراني، وعلي بن عبد العزيز] البغوي، وعمر بن حفص السدوسي، وأحمد [بن محمد بن مسروق] الطوسي، وأبا مسلم الكجي، ومحمد بن عبد الله بن سليمان الحضرمي، [وغيرهم من] أهل العراق، ومكة، والمدينة، ومصر، وسافر الكثير، ولقي المشايخ [الكبراء] من المحدثين، والصوفية، ثم عاد إلى بغداد فاستوطنها، وروى بها علمًا كثيرًا. حدث عنه أبو عمر بن حيويه، وأبو الحسن الدارقطني، وأبو حفص بن شاهين، وأبو الحسين ابن بشران، وخلق كثير. وكان ثقة صدوقًا [دينًا] فاضلًا، ولد في سنة اثنتين أو ثلاث وخمسين ومائتين قاله ابن الفرات.
وقيل في سبب تسميته الخلدي أنه قال: كنت يومًا عند الجنيد، وعنده جماعة من أصحابه فسألوه عن مسألة فقال لي: يا أبا محمد أجبهم، قال: فأجبتهم، فقال لي: يا خلدي من أين لك هذه الأجوبة؟!
فجرى علي اسم الخلدي إلى يومي هذا، والله ما سكنت الخلد ولا سكن أحد من آبائي. فسأل عن السؤال فقال قالوا: أنطلب الرزق؟ فقلت: إن علمتم في أي موضع هو فاطلبوه، فقالوا: أنسأل الله ذلك؟ فقال: إن علمتم أنه نسيكم فاذكروه، فقالوا: أندخل البيت ونتوكل على الله؟ فقلت: أتجربون الله بالتوكل؟! فهذا شك، فقالوا: كيف الحيلة؟ فقلت: ترك الحيلة.