وحدث به أبو محمد عبد بن حميد في"مسنده"فقال: حدثنا أبو بكر ابن أبي شيبة, حدثنا وكيع, عن ربيعة بن عثمان ... فذكره.
ورواه أبو بكر الروياني أيضًا في"مسنده": عن محمد بن معمر, حدثنا أبو نعيم, حدثنا عبد الله بن عامر, عن عمران بن أبي أنس, عن سهل بن سعد, عن أبي بن كعب رضي الله عنه أن رسول الله صلى الله عليه وسلم سئل عن المسجد الذي أسس على التقوى, قال: «هو مسجدي هذا» .
تابعه أبو بكر ابن أبي خيثمة فرواه في"تاريخه"عن الفضل بن دكين.
خالفه عبد العزيز بن أبي حازم, فرواه عن عبد الله بن عامر, عن عمران بن أبي أنس, عن أبي بن كعب أن النبي صلى الله عليه وسلم سئل فذكر مثله, ولم يذكر سهل بن سعد.