لما بلغ أبو بكر من العمر سبعين عاما وشعر بقرب أجله واشتاق إلى بلده بغداد عزم على السفر إليها، فسافر بصحبة تلميذه وصاحبه عبد المحسن بن محمد بن علي الشيحي في شعبان سنة اثنتين وستين وأربعمائة، فسلكا طريق الساحل فمرا بطرابلس ثم حلب وأقام بها أياما ثم توجه إلى بغداد فوصلها في ذي الحجة من السنة نفسها وكان في طريقه يختم في كل يوم وليلة ختمة كاملة.
ولما وصل بغداد استأنف تحديثه ودرسه في جامع المنصور ببغداد واجتمع إليه طلابه بلهف وشوق فحدث بسنن أبي داود من روايته وأملى فصولا من التاريخ والزيادات.