葉帥粉碎「四人幫」前，擔心部隊態度，楊成武：他們調不動一個兵

就這樣，在葉帥的大力舉薦下，楊成武成為繼羅瑞卿後的中國人民解放軍總參謀長。

此後，葉帥增補為軍委副主席、軍委秘書長，楊成武在毛主席和林帥的支持下把軍委工作搞得有聲有色。然而，伴隨著文革的持續深入，楊成武也不幸捲入鬥爭漩渦之中，從此開啟了長達6年的邊緣化生活。

值得一提的是，在這六年的時間裡，不同於其他人頻繁遭遇各種批鬥和漫長的審查，楊成武在閑居洛陽期間，他的生活由邱會作負責，職級上仍保留副總參的待遇，專案組也從未對他的生活有過打攪，這樣的情況，在那個特殊年代可謂十分罕見。

就連楊成武也在日記中說：「整個關押期間，始終沒有一個人找我談過一次話，沒有核查過一次問題……」(《楊成武將軍自述》　遼寧人民出版社　1997年版　頁349)。

1974年，在毛葉的再次支持下，楊成武復出再度擔任總參第一副總長，從此，葉、楊二人又開始並肩作戰。

這個時候的王張江姚的勢力已登峰造極，為抓住軍中勢力給日後做準備，他們開始頻繁向楊成武拋來「橄欖枝」。

楊成武一面與王張江姚周旋，一面及時將王張江姚的舉動向葉帥彙報，葉帥等人給出的原則是：不得罪也不親近，只帶「耳朵」聽，不帶「嘴巴」說。對於此中深意，久經考驗的楊成武自然心領神會。

1976年9月，偉大領袖毛主席病逝，局勢變得極其複雜和微妙，在這個關鍵時刻，楊成武擔負起了葉帥與聶帥之間的「聯絡員」，從而讓華國鋒第一時間取得部隊方面的支持。

楊成武也明白此時的局勢非比尋常，於是連續兩次主持總參謀部黨委常委會議，向總參強調：

「現在是非常戰備時期,任何單位、任何地區,動用一個班、一個排(離開營區或駐地) ,必須經總參批准;動用一個連,必須報中央軍委批准;並絕對不得執行職責之外的任何任務。這一條必須進一步重申，並嚴格執行，否則按軍法論。」

這樣一來，總參在這個特殊時刻牢牢把軍權攥在了手中。

準備好一切前期籌劃後，葉帥深知，在動手前夕，部隊絕不允許出問題，​於是他再次找到楊成武說：

「你告訴聶帥，就說都已經商量好了,請他放心。已經徵求了絕大多數中央政治局委員的意見,也與國鋒、東興同志商討了具體行動方案和時間，你要一直守在紅機子前，要掌握好三總部，陸空軍和海邊防,只要軍隊不出問題就不怕!」

在秘密談話中，老成持重的葉帥仍舊放心不下，便問道：部隊怎麼樣了？楊成武回答：「請葉帥放心，「四人幫」調不動一個排，甚至一兵一卒。」

有了楊成武的這番表態，葉帥心裡踏實多了，於是便立即投入到了緊鑼密鼓秘密抓捕王張江姚的計划上來了。

1976年10月，經過緊張的籌劃，王張江姚相繼落網，「四人幫」一舉覆滅，從此中國歷史進入了截然不同的新紀元。​