أبدى شارون منذ صغره ميولًا عسكرية، فالتحق في عام 1942 - وكان حينئذ في السادسة عشرة من عمره - بعصابات"الهاجاناه"والتي كانت تقوم بترويع القرويين الفلسطينيين عن طريق القيام بأعمال إرهابية وحشية، وقد أصبحت تلك العصابات فيما بعد النواة الأولى للجيش الإسرائيلي.

اشترك شارون في حرب عام 1948 في معارك اللطرون وأصيب خلالها بجروح، وقد وقع في الأسر في 25 مايو عام 1948 بعد عشرة أيام من إعلان قيام دولة إسرائيل بعد أن أصيب بجروح طفيفة في معركة عرفت باسم (باب الواد) وقعت بين الجيش الإسرائيلي والقوات الأردنية على مشارف القدس، ثم أطلق سراحه بعد عدة اشهر في إطار تبادل الأسرى بين العرب واليهود.

· في عام 1952 تقدم شارون (وكان برتبة مقدم - ميجور) إلى قادة الجيش الإسرائيلي بطلب السماح بتكوين سرية عسكرية من اليهود المحكوم عليهم بالإعدام في جرائم قتل، والذين يمضون أحكاما طويلة في السجون الإسرائيلية بحيث يكون لتلك السرية مهام خاصة .

وافق قادة الجيش الإسرائيلي على طلب شارون ، وتم تشكيل مجموعة طليعة (مقاومة الإرهاب) سميت (الوحدة 101) ، وأطلق على المجموعة اسمًا حركيًا هو (المنتقمون) .

وكانت أولى عمليات الوحدة 101 هي مهاجمة قرية"قبية"عام 1953 حيث هاجمت الوحدة بقيادة شارون القرية ليلًا وأمطرتها بوابل من المدفعية، فانهارت المنازل على رؤوس أصحابها، ثم أسرعت بعد ذلك في قتل من بقى حيًا من القصف المدفعي، وكانت الحصيلة هي قتل 69 فلسطينيًا وهدم 41 منزلًا.