الحج والنهل من مناهل العلم الصافية بالحرمين الشريفين فأدى فريضة الحج واختار لنفسه الإقامة في مكة وسكن في رباط الشيخ عبد الوهاب الكتبي والد العلاّمة الشيخ المسند عبد الستار الكتبي فطاف بحلقات العلم في المسجد الحرام فلازم دروس العلامة الجليل الشيخ أحمد بن زيني دحلان شيخ العلماء ومفتي الشافعية بالبلد الحرام وحصل منه في عام 1280 هـ على الإجازة العامة وهو يروي الأولية عن الشيخ عبد الغني الميداني الدمشقي ويروي عن المقرئ المحدث عبد الرحمن الأنصاري وعن الشيخ عبد الغني الدهلوي المدني وعن الشيخ جمال شيخ مفتي الحنفية.

وكان رحمه الله مطلعًا واسع الاطلاع لا يقف عند حد فعكف على قراءة كتب الأدب والشعر قديمها حديثها واستوعبها فدانت له مفردات اللغة فنظم القصائد الضخام وأصبح يلقيها في المجالس والمحافل بالعربية والأوروبية.

وفي عام 1284 هـ سافر إلى المدينة المنورة فنظم رحلته هذه شعرًا.

ولما تأسست المدرسة الصولتية بمكة المكرمة في عام 1290 هـ اختاره العلامة المؤسس الشيخ محمد رحمت الله للتدريس فاشترط عليه عدم تحديد راتب له فكان يقوم بالتدريس مجانًا إيمانًا واحتسابًا لله تعالى. وكان العلامة المؤسس يجله ويحترمه ويقربه حيث عين له خادمًا يتولى خدماته كما تكفل له بطعامه واحتياجاته من داره وعلى حسابه الخاص.

وحينما تأسس القسم الداخلي للمدرسة أمر له الشيخ رحمت الله بغرفة منفردة خاصة فيأتي الطلاب إليه للاستفادة والاستزادة منه ومكث على ذلك مدة.

لقد غلب على الشيخ الكاظمي الشوق لزيارة المدينة المنورة فسافر إليها واستوطنها وهكذا كلما اشتاق لإحد المدينتين المقدستين، سافر إليها وأقام بها ولم يلبث أن يتركها وظل على اتصال بالمدرسة الصولتية فكلما قدم مكة أقام بالقسم الداخلي وأفاد الطلاب. ...