ثم عاد سنة 1302 إلى بغداد رئيساً للمدرسين في المدرسة المرجانية - وشرطُ واقفها أن يكون رئيسُها أعلمَ أهل البلد - فكان يدرّس فيها شتى الفنون من الصباح إلى المغرب، وحصر وقته في الإفادة والاستفادة، فتخرج على يده خلق، أجلُّهم ابنه علي علاء الدين، وابن أخيه محمود شكري الآلوسي، وعباس الشيخلي الملقب بأبي الصاعقة [1] .
وكان يجلس في كل رمضان للوعظ في أحد المساجد الكبيرة، فيقصده الناس من أطراف البلد حتى يغَصّ المكان بالمستمعين، وقد وُصف بأنه جوزي زمانه في الوعظ.
وحج سنة 1311 واجتمع به العلماء، وأخذوا عنه، منهم العلامة شمس الحق العظيم آبادي.
وكان منذ صباه مشغوفاً بالمطالعة وميّالاً لجمع المخطوطات النادرة، وحصّل كتباً نفيسة لكبار الأئمة، ولا سيما شيخ الإسلام ابن تيمية وتلميذه ابن القيم، ثم أوقف كتبه على المدرسة المرجانية قبل وفاته بعشر سنوات، وهي تزيد على ألفي كتاب نادر، أغلبها مخطوطات، وعمل لها ختماً خاصّاً، كما عيَّن لها محافظاً يتعهدها رجاء بقاء المنفعة، ووقف عليها داراً وأرضاً ودكاكين، ثم أوقف عليها بعده ولدُه (علاءُ الدين علي) مجموعةً من النفائس، فغدت المكتبة من أغنى خزائن العراق وأحفلها بالمخطوطات النادرة، وبقيت حسنةً جارية للمترجَم إلى يومنا هذا، وقد انتقلت المكتبة المرجانية إلى مكتبة الأوقاف العامة ببغداد.
وكان خطه رائقاً حسناً [2] .
شيوخه:
ذكر العلامة النعمان في ثبته - الذي طبعه سنة 1301 - ثمانيةَ شيوخ بالإجازة، أحدهم أجازه بالطريقة القادرية، ثم حصلت له الإجازةُ بعد ذلك من غيرهم، فزاد في إجازته للقاسمي - التي كتبها قبل وفاته بسنة - شيخين بالإجازة، ولم يذكر بعضاً من شيوخه، وشيوخه هم:
1-والده مفتي العراق أبو الثناء محمود الآلوسي الحنفي صاحب التفسير المشهور (1217-1270) رحمه الله تعالى.