1948年11月6日,三大戰役之一的淮海戰役爆發。在淮海戰役第二階段,解放軍包圍了國民黨第十二兵團,把十二兵團包圍在雙堆集。十二兵團是國民黨的主力部隊,下轄的十八軍更是國民黨的五大王牌之一,因此,剛被包圍時,十二兵團的司令官黃維並不着急,然而,不久後,形勢發生了巨大的變化,黃維也開始坐不住,決定突圍。
1948年12月,在黃維突圍過程中,他手下的110師師長廖運周主動請纓,希望能當突圍的先鋒部隊。黃維聽後大喜,急忙把很多先進的武器交給廖運周。廖運周的真實身份是我黨黨員,他奉命潛伏在國民黨部隊,藉助這個機會,廖運周臨陣反擊,徹底打亂了黃維的部署,混亂中黃維兵敗被俘,自此之後被關押起來。
新中國成立後,黃維被轉移到功德林戰犯管理所,值得一提的是,他是個比較有個性的人,拒不認罪,甚至也不承認失敗。在功德林期間,黃維留着鬍子,以表示自己是國民黨的人。與黃維一起被關押的國民黨戰犯曾勸說過黃維,讓他改一改自己的脾氣,黃維不僅不改,反而譏諷他們。
不過,在功德林期間,黃維的生活待遇還是不錯的,不僅能吃到白面饅頭,而且還能喝上牛奶,即使是三年自然災害時期,黃維也能吃上肉。當時公安部門專門安排人員前往草原打黃羊,用來供應這些國民黨戰犯,黃維出獄後回憶,只記得那段時期的看守都「胖」了起來,後來才知道是浮腫。
在功德林關押一段時間後,黃維先是被轉移到秦城監獄,一段時間後又被轉移到撫順戰犯管理所,繼續關押。被關押期間,黃維最有名的事就是研究永動機,他對永動機格外痴迷。不過,黃維最早研究永動機的目的是逃避改造,但是在研究過程中,黃維逐漸沉迷其中,出獄後還一直研究永動機。
1959年,我黨開始特赦第一批戰犯,本來黃維是在特赦名單當中的,但因為他頑固的態度,黃維一直沒有得到特赦,直到1975年,四屆人大一次會議後,我黨決定特赦全部戰犯,同時這也是特赦最後一批戰犯,黃維在這一年恢復自由,前後一共被關押了27年。
出獄後,黃維想回江西老家,不過,周總理建議他留在北京,這樣不僅有利於他身體的恢復,而且還有利於他搞研究工作。於是黃維就留在了北京,進入全國政協文史資料研究委員會工作,主要從事抗戰歷史以及國民黨歷史的研究工作。
1983年,黃維當選為第六屆全國政協常委,享受副部級待遇,晚年的黃維在促進兩岸和平方面做了大量工作,1989年,黃維在準備動身前往台灣之前突發心臟病去世,享年85歲。值得一提的是,黃維對這次台灣之行非常重視,他列了很多計劃,比如要給蔣介石掃墓,要給陳誠掃墓……
提起蔣介石與陳誠,這兩個人是黃維一生最感謝的兩個人。晚年的黃維曾坦言:蔣某人(蔣介石)對我有知遇之恩,陳誠待我恩重如山,我最感謝的就是他們。黃維之所以這麼說與他的人生經歷有關,黃維出生於一個貧苦的家庭,1924年考入黃埔一期,成為蔣介石的學生。蔣介石非常欣賞黃維,所以黃維說他對自己有知遇之恩。而陳誠更是提拔了黃維,並且在官場上與生活方面也曾多次幫助黃維,所以黃維說他對自己有知遇之恩。