王秉璋1914年1月14日出生在河南安陽農村一個農民家庭。父母每天種地維持生計，家境清貧。他小時候五歲就被送到村小學讀書，學習表現比較好。念到初中二年級，家裡實在沒錢交學費，他只好輟學回家。
1928年他十四歲跑到縣城一家鐵器鋪當學徒，每天跟鐵鎚打交道。1929年9月他考進西北軍無線電學校報務班，開始學通信技術。這段學校生活讓他掌握了軍事基礎知識，為以後工作打下基礎。
1930年初部隊調動，他隨隊進入江西地區。1931年12月14日他參加寧都起義，起義後隊伍編入紅軍序列。他因為有無線電經驗，先擔任通信隊長。1932年他加入中國共產主義青年團。1935年他轉為中國共產黨黨員。長征過程中他先後當過紅一軍團參謀、補充團團長、教導營副營長等職務。隊伍經歷各種艱難環境，他負責作戰聯絡任務，堅持跟上大部隊。
抗日戰爭時期他調到八路軍115師司令部作戰科擔任科長。他參與廣陽伏擊戰和午城井溝戰鬥等行動。1938年4月他升任師司令部參謀處處長。1939年他隨部隊開進山東，參與開闢山東抗日根據地工作，還經歷陸房突圍戰鬥。1940年9月他任教導第三旅副旅長，1941年2月任代旅長。1942年12月他擔任冀魯豫軍區第六軍分區司令員兼教導第四旅旅長等職。
1943年7月在反碉堡戰役里，他帶領部隊採用夜間挖掘交通壕的方式接近敵方陣地。天亮後發起攻擊，部隊奪取多個日偽據點。這樣的戰術讓傷亡控制在較低水平，取得明顯戰果。這種近迫作業方法在當時得到上級認可，並被推廣使用。他在山東和冀魯豫地區的工作為根據地鞏固貢獻力量。
解放戰爭開始後，他擔任冀魯豫軍區副司令員兼參謀長，後來升為司令員。1947年他任晉冀魯豫軍區第十一縱隊司令員。之後他當第二野戰軍第十七軍軍長。他率領部隊參加魯西南戰役、淮海戰役和渡江戰役。在這些戰鬥中他注重部隊紀律執行和戰術配合，保證作戰目標達成。
1949年10月25日他被任命為中國人民解放軍空軍首任參謀長。當時空軍建設從零開始，各種條件有限。他參與空軍領導機關的組建工作，協助抓飛行訓練和機關建設。他還主管空軍各部隊和航校的裝備訂貨事務，聯繫各方資源保障供應。
1951年7月他隨總參謀長徐向前前往蘇聯商談空軍裝備採購事宜。他對蘇方方案提出意見，堅持爭取改訂先進殲擊機。經過協商談判，最終達成協議。1953年3月他隨中國代表團去莫斯科，參加相關活動後留在那裡繼續談判。又爭取到各類飛機和配套武器裝備。這些裝備為空軍早期發展提供支持。
朝鮮戰爭期間他負責空軍的作戰和訓練事務。他幾乎每月都去安東前線了解作戰情況，解決具體問題，傳達上級指示。他幫助制定聯合空中作戰計劃，改進戰術紀律。空軍在裝備條件有限的情況下為地面部隊提供支援，通過實戰獲得經驗。
1960年4月他調任國防部第五研究院第一副院長兼黨委書記。他與錢學森等人合作推進導彈研製項目。蘇聯專家撤離後，科研團隊自主開展工作。同年11月中國第一枚東風短程導彈發射成功。之後東風系列導彈從近程到遠程逐步完成，還有防空導彈和海防導彈的研製也跟進。
他在研究院期間制定各項規章制度，改革科研組織方式。他提出嚴格的質量要求，組織大量技術人員分工協作，解決一個個技術難題。1962年6月他升任第五研究院院長。1964年12月他擔任第七機械工業部部長。工作重心放在推動國防科技自主發展上。
1968年10月他任國防科學技術委員會黨委書記和第一副主任。他主持西北地區的核試驗相關工作。1970年4月24日以東風四號為基礎的長征一號火箭成功發射東方紅一號衛星。這些項目中他負責協調資源，組織大規模試驗，確保關鍵節點推進。
1971年9月13日發生一起事件，相關人員攜帶國防科學技術委員會的絕密文件外逃。他作為委員會第一副主任，對文件保管和管理負有領導責任。1971年10月他開始接受隔離審查。審查重點核查文件提供情況和相關批件問題。
審查過程持續了十年時間。1978年5月他轉入秦城監獄繼續接受調查。專案組詳細了解泄露機密的相關細節。1981年7月他從秦城監獄釋放出來。組織認定他沒有參與陰謀活動，但工作中存在疏忽情況。
1982年軍事檢察院決定對他免予起訴，認定罪行輕微。他從此退出現役。此後他過著比較低調的生活。2005年9月25日他在北京逝世，享年九十一歲。家人提出要求按老紅軍和黨員身份辦理告別儀式，但當時沒有獲得批准。
家人把遺體存放在301醫院的冷庫中保存。他們希望通過反映情況爭取正式結論。十二年間家人多次提交書面意見，要求恢復老紅軍身份並舉辦適當儀式。事情就這樣一直等待。
2017年5月31日，在301醫院西院告別廳舉行了遺體告別儀式。遺體覆蓋中國共產黨黨旗，以原總裝備部北京第二干休所老紅軍、第三黨支部黨員幹部的身份進行送別。當天有國防科技領域的同志和科學家參加。
儀式結束後遺體進行火化。骨灰安放在八寶山革命公墓，按照相關待遇處理。墓碑前放置了導彈和火箭模型。這件事到此畫上句號。
