1976年5月，毛主席就提出過要解決「四人幫」的問題，當時毛主席對「四人幫」的陰謀活動已經有了察覺，據《偉大的歷史性勝利》書中講述，處理「四人幫」的問題已經被毛主席納入了計劃中。
毛主席當時對解決「四人幫」的時間也有了計劃，按照毛主席的預計：「上半年解決不了，下半年解決；今年解決不了，明年解決；明年解決不了，後年解決。」這表明毛主席解決「四人幫」的態度的堅決的。
可惜天不假年，毛主席在這年的9月9日逝世了，「四人幫」問題也就成為了遺留問題。在毛主席去世之後，「四人幫」一夥加緊醞釀奪權的陰謀活動，「四人幫」之一的王洪文甚至暗中計劃調一個裝甲師到北京。
所幸王洪文的陰謀被葉帥及時發現，葉帥親自打電話，叫停了調兵的行動。經此一事之後，葉帥等老同志意識到，解決「四人幫」的問題已經不能再拖了，否則就可能會造成大的麻煩，後果不可收拾。
隨著「四人幫」一夥的陰謀活動愈演愈烈，葉帥和汪東興等老同志認為，必須儘快解決相關問題。據《葉劍英年譜》書中講述，在9月12日到13日，葉帥和汪東興交換了意見，一致決定儘早解決「四人幫」的問題。
可是有一個至關重要的問題，兩人都擔心軍隊的穩定問題，軍隊的態度必須要考慮，當時總參謀長被「四人幫」一夥誣陷撤職了，只剩下第一副總參謀長楊成武在主持工作，楊成武成了穩定軍隊的關鍵。
楊成武是福建長汀人，1929年，年僅15歲的楊成武參加了紅軍，第二年就被批准入黨了，17歲他就當了團政委，後來擔任了紅1師的師長兼政委，也是八路軍之初的16個團長之一。
楊成武身經百戰，軍事和政治上都過硬，他在動蕩中也遭受過「四人幫」一夥的誣陷被撤職，1974年恢復了工作，擔任第一副總參謀長，總參謀長被誣陷撤職後，他就負責主持總參的日常工作。
總參謀部是指揮軍隊的核心樞紐，粉碎「四人幫」之時能否穩定軍隊，第一副總參謀長楊成武將起到關鍵作用。葉帥還不了解軍隊的情況，並沒有十足的把握，於是他特地叫來了楊成武詢問情況。
楊成武到了玉泉山葉帥的住處，葉帥向他表明了粉碎「四人幫」的決心，同時對他提出要求，希望他能穩定住軍隊，千萬不能讓軍隊出現亂子，楊成武明白了問題的嚴重性，當即表態一定能穩定軍隊。
據《聶榮臻回憶錄》講述，9月28日和30日這兩天，楊成武在總參主持召開了兩次常委會議，兩次在會議上他明確強調同一個問題，那就是調動一個排，哪怕是一個班，也必須經過總參批准，否則就按軍法處理。
10月5日，楊成武替葉帥傳話給聶帥，事情已經準備妥當，請他放心。當天葉帥讓楊成武守在電話機前，軍隊不亂就不怕。10月6日晚上8時許，葉帥和華國鋒坐鎮懷仁堂，一舉粉碎了「四人幫」。
