بدأ حياته العسكرية في 19/ 7/ 1910 حيث التحق بكتيبة المشاة 124 ثم التحق بالكلية الحربية في الانزيغ IDanzig في مارس 1911 وخلال هذه الفترة التقى بفتاة أحلامه لوسي ماري مولين التي وجدت في رومل شابا رصينا جاذا وكان إعجابا متبادلا وصداقة استمرت لمدة أربع سنوات، عقدت بعدها خطبتهما بصورة رسمية وبقيت لوسي هي المرأة الوحيدة في حياة رومل والتي برهنت على أنها رفيقة صالحة لقائد المستقبل، واجتاز رومل فحوصه بنجاح وتخرج من الكلية برتبة ملازم في يناير 1912 فمضى لإفراغ نشاطه في تدريب المجندين، وكان مدربا ناجحا يبتعد عن الجدل والنقاش يجيد الإصغاء أكثر من إتقانه للحديث. لم يكن يدخن أو يشرب الكحوليات ويتجنب مرابع وصالات اللهو اللبلى، يتعامل مع الناس ومع مجنديه بأسلوب رزين لا يتساهل في الابتذال أو الظهور بمظهر غير لائق يميل إلى الدعابة يشارك جنده حياتهم ويحمل عن رفاقه بعض أعمالهم ومسؤولياتهم إذا ما اضطروا للعون والمساعدة وعرف بإرادته الصلبة واستقلاله الفكري وانتباهه الشديد وحذره وقوة شخصيته وعندما بدأت الحرب العالمية الأولى تحركت الكتيبة 124 من كتائب مدفعية الميدان من «أولم، إلى الجبهة في 1/ 8/ 1914 وسرعان ما استيقظت روح المحارب البروسى في نفس «رومل، فما إن استقبلته نار المعركة حتى بدا محاربا صلبا رابط الجأش ماکرا شديد القسوة صبورا لا يعرف التعب يتخذ قراراته بسرعة، شجاعا ومقداما حتى التهور.

قام رومل بتنفيذ أول مهمة قتالية صباح 22/ 8/ 1914 إذ تولى قيادة دورية استطلاعية للمواقع الفرنسية في قرية ابليد» قرب الونغوي»، واستمر رومل في تنفيذ مهمته بنجاح في مدة 24 ساعة ثم عاد لتنفيذ مهمات أخرى وحصل على وسام الصليب الحديدي من الدرجة الثانية، وأصبح قائد الفوج