同治三年（1864）7月19日，湘軍攻克金陵，太平天國運動失敗，湘軍力量達到頂峰。作為湘軍水師主帥，彭玉麟不僅“加官不拜”，還力請開缺回籍，絕意仕途。可是，當法國殖民者的鐵蹄踏上中越邊境並覬覦中國內地時，彭玉麟毅然出山，以兵部尚書身份，從老家衡陽“單騎赴粵”，督師抗法，並取得了中國近代史上唯一一次大規模對外戰爭的勝利。關於中法戰爭，中學歷史教科書上只提到了馮子材以及“鎮南關大捷”，卻隻字未提中法戰爭的“操盤手”彭玉麟。
中法戰爭圖畫
國難當頭，毅然赴粵
光緒九年（1883）八月二十八日，清廷軍機處大臣秘密擬定一份情報，告知在家養傷的彭玉麟：法國與越南“構兵”，意在獨佔大清蕃屬國越南，直至將越南境內的清朝軍隊全部驅逐離境。請彭玉麟“即行啟程，毋稍延緩”，“配帶舊部得力將弁，酌量招募勇營，迅速前往廣東”。同時，任命彭玉麟為兵部尚書。
事實上，在委任彭玉麟為兵部尚書、令其前往廣東督戰之前，清廷曾任命李鴻章擔任這一角色，但李鴻章對朝廷的這一決定，頗有抱怨：“若以鄙人素尚知兵，則白頭戍邊，未免以珠彈雀。樞府調度如此輕率，殊為寒心。”在李鴻章看來，中法開戰，大清必敗。在這種形勢下，朝廷將他派往戰場，令他“寒心”。言下之意，是朝廷浪費人才，於是他堅決拒絕。這樣，這份差事便落在彭玉麟頭上。可是，彭玉麟出生於1817年，李鴻章出生於1823年；李鴻章比彭玉麟小6歲，如果李鴻章赴粵是“以白頭戍邊”，那麼，彭玉麟該怎麼說呢？可見，兩人在對待這件事情上的看法和境界，是完全不一樣的。這一年，彭玉麟已66歲。
彭玉麟收到這份“密件”後，立即將自己的傷痛拋諸腦後，回復朝廷“臣一息尚存，斷不敢因病推諉，遵即立疾遄征，以身報國，畢臣素志”。
至於朝廷要他“配帶舊部”等，彭玉麟說：“臣故只有水師舊部，並無陸師舊部。江海原相表裡，海防有事，江防即吃緊，且水師得力將弁，不便調歸陸路。”同時，也表明自己的赤膽忠心：“（臣）尤不諳陸兵調度，治水師三十餘年，我行我法，唯秉誠實無欺之血忱，不要官，不要錢，不要命。仰仗皇太后、皇上威福，得以肅清五省江面，二十餘年無事。”
經過匆匆準備，彭玉麟於十月初十從衡陽啟程，隨身只有幾名兵丁，可謂“單騎赴粵”。十一月初四，到達粵東，立即召集兩江總督張樹聲、廣東巡撫裕寬，商討軍情。
正確決策，重用馮子材
彭玉麟一面趕往廣東，一面向朝廷彙報自己的想法。“臣兩手空空，軍械、口糧無從支取。”他認為，如果在老家衡陽招募兵勇，帶往廣東，這是不現實的。彭玉麟說，從招募規模而言，“至少須募勇二三十營，方可壯天威”；而要募集這些營兵，沒有幾個月時間是完成不了的；即便募集到了，不對這些營兵進行訓練，也無異於將普通百姓派往戰場；而且，湖南、廣東相隔千里，“新軍初立，紀律生疏，雖有軍令，難保沿途不生事端”，因此，彭玉麟與身在廣東的張樹聲、裕寬協商：不如在粵東就地取材，招募營兵，立即訓練。無事時，保一方平安；遇到戰爭，即上前線，報效朝廷。
當彭玉麟趕到粵東時，相關準備工作也都基本就緒，各路軍官、兵勇陸續到位。一周之後，彭玉麟在張樹聲、裕寬的陪同下，出海巡視，確認廣東虎門是當守的第一門戶，其次是瓊州。事實證明，彭玉麟的這一判斷，是完全正確的。
隨即，彭玉麟開始在各要道關隘設立炮台，以期一夫當關萬夫莫開。與此同時，彭玉麟向朝廷奏請及時支付駐軍糧餉。
正當彭玉麟部署沿海防務時，中法兩軍在越南北部展開了廝殺，即史書上說的“北寧之戰”，清軍一觸即潰。慈禧太后聞訊大怒，趁機改組了軍機處，由光緒帝的生父奕譞執掌軍機處；對西南前線指揮官也作了調整。彭玉麟提出的重用廣西提督馮子材的主張得到清廷支持。同時，彭玉麟還向朝廷建議，重視劉永福及其黑旗軍的抗法作用。
劉永福的黑旗軍是由農民起義武裝轉變而來的，清廷部分官員對他們懷有偏見，但彭玉麟看到：這支部隊多次擊敗法軍，並與法軍相持多年，是一支很好的抗法力量，因此，建議清廷接濟黑旗軍軍火和糧餉；而馮子材是當地資深官員，有着很好的群眾基礎和威望，是前線指揮官的絕佳人選，因此，果斷決定任命他帶領十八營重兵鎮守鎮南關。
光緒十一年（1885）3月23日，法軍進攻鎮南關時，馮子材率軍頑強抵抗，取得歷史上著名的“鎮南關大捷”，迫使法國總理茹費理內閣倒台，體現了彭玉麟決策用人的正確性。
腳穿草鞋、手握鋼刀的67歲老將馮子材。
不敗而敗，戰畢即歸
在取得“鎮南關大捷”之前，彭玉麟採用著名愛國商人鄭觀應的建議，派遣鄭觀應帶領兩名隨從，由香港前往南洋，目的是說服當時暹羅國（今泰國）國王拉瑪五世，利用拉瑪五世對法國進攻越南、中國不滿的心理，暗中聯合，從法軍後方突然發力，共擊法軍根據地——越南西貢，給在中越邊界作戰的法軍來個釜底抽薪！結果，鑒於彼此力量懸殊，拉瑪五世不願意與法軍發生衝突，使得彭玉麟的這一計劃未得實施。
法軍在鎮南關吃了敗仗之後，便揚言攻打中國東南沿海。由於彭玉麟在廣東沿海早已嚴陣以待，法軍繼續東進，游弋於福建和台灣海峽之間。同時，他們利用清廷懼戰的心理，加快和談步驟，在天津與直隸總督李鴻章展開談判。
其實，戰爭期間，法國謀求戰爭成本的最低化，一直沒有放鬆誘和工作，從1884年5月11日的《中法會議簡明條約》到1885年6月9日的《中法新約》，其狼子野心一覽無餘。
正在前線部署、謀劃並節節取勝的彭玉麟得知清廷居然在這種大好形勢下與法國和談時，“不勝駭異”，火冒三丈，多次向朝廷遞交“力阻和議”摺子，提出“遽與議和，何以張國威”！彭玉麟認為法軍“外強中乾”，居然還“凌我藩服，吞噬我疆土。堂堂中華，不勤遠略，不問其罪，轉而降心相從”，成何體統？
但是，就在彭玉麟一心抗法、屢屢進言朝廷時，《中法新約》還是簽署了！
彭玉麟還能做什麼呢？
光緒十一年三月十五日，他向朝廷遞交了《報銷軍餉折》。從光緒九年十一月至光緒十年十二月底，抗法清軍共收到軍餉430298兩銀子，糧米3500石；實際用去銀子344321兩，糧米2865石。
光緒十一年三月二十八日，彭玉麟遞交辭呈，隨着一聲長嘆，離粵回籍。 （豐吉）