ولد القاضي أبو يعلى في شهر محرم لتسع وعشرين أو ثمان وعشرين خلون منه، سنة ثمانين وثلاثمائة هجرية.
نقل ذلك الخطيب البغدادي في"تاريخ بغداد"1، قال:"حدثني أبو القاسم الأزهري، قال: كان أبو الحسين بن المحاملي يقول: ... سألته -أي القاضي أبا يعلى- عن مولده، فقال: ولدت لتسع وعشرين أو ثمان وعشرين ليلة خلت من المحرم سنة ثمانين وثلاثمائة".