Almaniyanın Ulma yaxınlığındakı Hendenheym şəhərində müəllim ailəsində anadan olmuş, 1910-cu ildə 124-cü piyada diviziyasına kadet kimi daxil olmuşdur. Sonra hərbi məktəbi bitirib leytenant rütbəsində qulluğa başlamışdır. 24-25 yaşında ikən Birinci Dünya müharibəsində göstərdiyi hünərə görə bu kiçik zabit I dərəcəli dəmir xaç ordeni ilə təltif olunmuş, iki yüz nəfərlik bir dəstə ilə italyan şəhərlərindən birinə hücum edib, doqquz min düşmən əsgərini əsir almışdı. Müharibədən sonra bir sıra hərbi vəzifələr daşıyıb, 1937ci ildə Hitlerin şəxsi qoruyucularının komandiri olmuşdur. Bu dövrdə artıq briqada generalı olan Rommel Hitler hərbi ştabının üzvü kimi alman dövlətinin "Blitskriq" hərbi doktrinası ilə tanış olandan sonra ona valeh oldu. 1940-cı ilin may-iyun aylarında Fransaya hücumlar başlandı. Rommel Fransa ordusunun müdafiəsini yarıb arxaya keçdi. Cəmi 2500 əsgər və 42 tank itirməklə yüz minə qədər əsir alıb 450 fransız tankını məhv etdi. Bundan sonra Hitler ona Cəngavər xaçı ordenini verib 1941-ci ilin martında Afrikaya göndərdi. Rommelin motorlu və zirehli tank diviziyası iki general əsir almaqla ingilisləri El-Aqeyldən çıxartdı. İyunda Rommel Sallun Xalfay keçidində ingilislərin güclü hücumunu dəf etdi. Bundan sonra Ervin Rommel Afrika korpusuna daxil olan 15 və 21-ci alman tank diviziyalarını Misiri işğal etmək üçün Ess-Saldun və onun ətrafındakı rayonları bazaya çevirdi. Bu zaman gözlənilmədən ingilis general-leytenantı Alan Qordon Kanningen yüngül amerikan "Stüart" tanklarıyla Rommelin ordularıyla toqquşdu. Noyabrın 19-22-də bir sıra nizamsız toqquşmalardan sonra Rommel ingilislərin hücumlarının qarşısını aldı. Bundan sonra o, ingilis-amerikan birləşmiş çoxsaylı korpuslarının hücumunu dəf edib qərbə və cənuba (Tabruka) doğru çəkildi. Nəhayət, 1942-ci ilin yanvarında general Klod Okinlenqin səkkizinci ordusu Rommelin ordusu ilə Liviyanın El-Aqeyl şəhərində üz-üzə gəldi. Rommel ingilisləri əzdi. Yanvarın 21-də o, hücumu davam etdirib britaniyalıların ön hissələrini yenidən əzib geri oturtdu. Almanlar xeyli qənimət ələ keçirdilər. Səhrada britaniyalılar marşal Mari Pyerin başçılığıyla piyada diviziyası ilə birləşdilər. Onların sol cinahını Britaniya tankları qoruyurdu. Burada Rommelin 113 minlik ordusu, 570 tankı və 500 təyyarəsi, britaniyalıların isə 125 minlik diviziyaları, 740 tankı və 700 təyyarəsi vardı. Üstünlük açıq-aşkar şimallıların tərəfində idi. Bir neçə həftəlik ağır döyüşlərdən sonra nəhayət, Rommel britaniyalıların üstün qüvvələrini əzib, geri oturtdu.
Çörçill Afrikadakı uğursuzluqlara görə Okinlenq və Ritçini kənarlaşdırıb yerlərinə general-leytenant Ser Cerald Aleksander və general-leytenant Ser Bernard Montqomerini təyin etdi. Sonrakı döyüşlərdə hər iki tərəf gücdən düşüb gözləmə mövqeyində dayandı. Alman ordularının hərbi sursatı çatışmırdı. Üstəlik, Amerika hərbi qüvvələrinin desantı nəticəsində Rommelə kömək gəlmək imkanı yox idi. Bundan sonra Rommel Afrikadan çıxıb Malta adasını ələ keçirmək istədi. Lakin burada təyyarə gəmisi olan Britaniyanın hərbi gəmiləri sayca çox idilər. Bundan sonra 1944-cü ilin oktyabrında bir dəstə yaxın adamları Hitlerə sui-qəsd təşkil etdilər. Sui-qəsd açıldıqda Hitler Rommeli də müqəssirlərə qatdı. Və nəticədə feldmarşal Ervin Rommel zəhər içib intihar etdi.
Bu gün Rommelin adı hər yerdə hörmətlə çəkilir və onun döyüşləri hərbi məktəblərdə diqqətlə öyrənilib şərh edilir.