تفرغ ابن شهاب للعلم وحرص عليه؛ فكان إذا جلس في بيته وضع كتبه حوله، فيشتغل بها عن كل أمر من أمور الدنيا، فقالت له امرأته يوما: والله لهذه الكتب أشد على من ثلاث ضرائر.
وكان قد حفظ علم الفقهاء السبعة، وكتب عمر بن عبد العزيز إلى الآفاق: عليكم بابن شهاب، فإنكم لا تجدون أحدا أعلم بالسنة الماضية منه.
وقيل لمكحول: من أعلم من رأيت؟ قال: ابن شهاب، قيل له: ثم من؟ قال ابن شهاب. قيل له: ثم من؟ قال: ابن شهاب.
وتوفي رحمه الله سنة أربع وعشرين ومائة وهو ابن اثنتين وسبعين سنة.