ولّى القسّام وجهه شطر فلسطين التي أخضعت لحكم بريطانيا ونزل في مدينة"حيفا"وأفاد هو وأمثاله من التنافس الذي كان قائما بين الفرنسيين والإنجليز على التركة العثمانية وفي مقدمتها سورية وما كاد يستقر هناك حتى اخذ يلقي الخطب الجمعية على المنابر ويعقد الدروس والمواعظ في المساجد فتمالت إليه جماهير الناس وتعلقت به وقد اهتم اهتماما خاصا بالعمال المكدودين والفلاحين الذين طردهم اليهود من الأرض التي كانوا يعملون فيها. وذلك بعد أن اشتروها من أصحابها بباهظ الأثمان . فاخذ يوثق علاقته بهم حيث يزورهم في مساكنهم النائية ويبحث لمريضهم عن طبيب يداويه ولمضطرهم عن معونة تكفيه ولعاطلهم عن عمل يقوم بأوده . ولما تعمقت صلاته بنفر مختار منهم جعل يؤكد لهم بأن حياة المسلم تقوم على الاتصال بكتاب الله فهو ربيع قلبه ونور عينه و أن هذه الصلة لا تحقق إلا بتعلم القراءة والكتابة ثم جعل القرآن الكريم مصدرهم لتحقيق هذه الغاية وطفق يختار لهم من سوره ما يسهل عليهم حفظه وفهمه ثم يرتقي بهم درجة اثر درجة فإذا تمكن طلابه من القراءة والكتابة علمهم سورة الجهاد وحضهم عليه واخبرهم بأن المسلمين كانوا إذا لقوا عدوهم قرأوها فتقوى عزائمهم وتطمئن قلوبهم ويتذوقون السكينة ويحرزون النصر.

ولقد قسم طلابه إلى مجموعات صغيرة لا يعرف بعضها بعضا فكان كلما اطمئن إلى عدد منهم لا يزيد عن العشرة ووثق بصدق ثباتهم وتوافر خبرتهم ولى عليهم نقيبا منهم يجمع إلى قوة الإيمان عمق الخبرة في فنون القتال وكان كل نقيب يدرب أفراد فرقته تدريبا صارما فيفرض عليهم أن يسيروا ساعات طويلة في شعاب الجبال وهم حفاة و أن يناموا في البرد القارس بلا غطاء و أن يتحملوا الجوع والعطش و أن يعيدوا بناء أنفسهم من جديد ولو طال عليهم الأمد.