1947年5月，在陳毅和粟裕二人齊心協力的指揮下，號稱國民黨「五大主力之首」的第74師在蒙陰縣孟良崮一帶被全殲，師長張靈甫在戰場殞命，當時陳、粟二人一致決定厚葬張靈甫，沒想到此舉有許多將士不能理解。
早在孟良崮戰役之前，1946年的時候，華中野戰軍在漣水就與張靈甫的第74師有過交手，雙方打得互有來往，在長達14天的漣水保衛戰中，殲敵八千餘人，華中野戰軍傷亡逾六千，縱隊司令員謝祥軍壯烈犧牲。
在血戰之後，華中野戰軍的將士一直憋著一口氣，要為犧牲的戰士和司令員謝祥軍報仇。然而報仇談何容易，第74師是一個加強師，全師3萬多人，武器裝備都是美式的，大口徑的榴彈炮和山炮都有，迫擊炮有200餘門。
雙方武器裝備懸殊，這也是張靈甫引以為傲的巨大資本，因此在戰場上張靈甫犯了一個致命的錯誤，那就是傲慢輕敵。從1947年3月開始，國民黨方面就集中兵力對山東解放區實施重點進攻。
張靈甫帶著裝備精良的第74師，一路突飛猛進，與左右鄰軍之間出現了較大的間隙，而且呈現出等腰三角形的尖狀突出。陳毅、粟裕等將領意識這是一個分割包圍第74師的好機會，當即下定決心開打。
在完成了對第74師的包圍之後，敵人的增援效果「出人意料」，原來張靈甫的傲慢不僅是在陳、粟面前，在國民黨內部張靈甫也自恃頗高，在同僚面前驕橫跋扈，彼此之間常有矛盾，因此救援張靈甫的國民黨將領並不積極。
短短3天時間，就全殲了第74師，在混戰中張靈甫殞命。據臨沂方面出版的關於孟良崮戰役的資料顯示，在圍殲第74師期間，包括消滅的援軍，共計是殲敵32000餘人，其中俘虜了19680人，華野傷亡萬餘人。
5月16日戰役勝利結束，陳毅、粟裕下令給前線的部隊，一定要收殮好張靈甫的遺體，特別叮囑要對張靈甫進行厚葬。當時沒有棺材，特地從其它地方買來棺材，還安排人為張靈甫洗凈遺容換上新軍裝。
對此不少戰士不能理解，上級安排人給戰士們做了思想工作，厚葬張靈甫是有重要意義的。可以總結為三個重要原因，第一是張靈甫為抗戰做出過一定的貢獻，作為軍事主官，應該給他應有的尊重。
第二是基於現實需要，為爭取改造俘虜樹立一個標榜。俘虜了近兩萬人，其中大部分是第74師的官兵，該師官兵普遍具有豐富的戰鬥經驗，如果能把他們爭取過來，對解放戰爭是大有益處的。
為了能改造好這批俘虜，陳毅親自出面，足見上級對這些俘虜的重視，當時華野各部都爭著要這些俘虜。後來的事實證明，這些俘虜改造一新之後，在解放戰場上有著很好的表現。
第三就是從長遠的統戰角度考慮，厚葬張靈甫可以傳遞出一個善意的信號，爭取國民黨的中間力量，弱化敵人抵抗的意志。因此厚葬張靈甫是很正確的做法，此舉經得起事實驗證。
