1945年8月日本宣布投降后，以蒋介石为首的国民党政府，一面邀请中国共产党中央委员会主席毛泽东赴重庆进行和平谈判，一面调集大批军队向解放区发动进攻。
8月中旬，国民党军第二战区司令长官阎锡山所部在日伪军接应下进占太原和同蒲铁路（大同—风陵渡）沿线城镇后，以第19军军长史泽波指挥4个步兵师及1个挺进纵队（相当师），连同收编长治地区（古称上党郡）的伪军共1.7万余人，乘晋冀鲁豫军区部队正在向日伪军举行全面反攻之际，袭占长治及其周围地区，并修筑工事，加强守备。其军部率3个师主力及炮兵一部共万余人守备长治，其余部队及地方团队部署于襄垣、长子、屯留、潞城和壶关等地，企图以此为依托，进一步打通白（圭）晋（城）铁路，扩占整个晋东南，并配合国民党军第一、第十一战区部队沿正太、平汉铁路向石家庄、北平（今北京）等地推进。
为保卫抗战胜利果实，中共中央军委于8月下旬指示晋冀鲁豫军区进行自卫反击，首先歼灭进入长治地区的国民党军，收复失地，清除解放区腹心之患，以便尔后将主力转用于平汉线（今北京—汉口），阻滞国民党军北进。同时指出，上党地区6城堡坚垒密，反击须有充分准备，不可草率，宜选择一两城，各个击破，不宜同时攻击；如攻而不克，可围城打援。
晋冀鲁豫军区司令员刘伯承、政治委员邓小平遵照上述指示，并针对国民党军第二战区部队孤军深入和分散守备的特点，决心以所属太行、太岳、冀南军区各1个纵队及地方武装共3.1万余人，在5万民兵的配合下，先由北而南逐个夺取长治外围各城，吸引长治守军出援，力求在运动中予以歼灭，尔后收复长治，并相机歼灭可能自太原、平遥来援的国民党军。
晋冀鲁豫军区各参战部队依据上述部署，一面向上党地区开进，一面进行整编和政治动员。太行纵队在南进途中，于9月1日攻克襄垣。9月10日，战役正式发起，太行纵队首攻屯留。史泽波两度组织长治守军出援，均与打援的太岳、冀南纵队略事接触即迅速缩回。12日，太行纵队攻克屯留。17日，冀南纵队攻克潞城，截断了长治与太原的联系。19日，太岳纵队和太行军区部队分别攻克长子、壶关。至此，晋冀鲁豫军区部队连克5城，歼国民党军7000余人，使长治守军陷于孤立。
当晋冀鲁豫军区部队开始夺取长治外围各城时，阎锡山唯恐长治兵力不济，于9月15日令第7集团军副总司令彭毓斌率第23、第83军等部，由祁县东观镇经沁县南下增援。
9月20日起，晋冀鲁豫军区集中主力围攻长治。因城高壕深，工事坚固，多次攻击未能奏效。24日，得悉自太原出援的国民党军3个师已抵子洪镇以南，遂留冀南纵队和太岳纵队一部及地方部队继续围困长治、吸引援敌，令太行纵队和太岳纵队主力迅速北上打援。
10月2日，将国民党援军包围于虒亭以南老爷岭、西窳、磨盘垴、榆林地区。在围歼过程中，查明援军为2个军6个师，另外由伪军改编的山西省防军第3军4个团也正从沁县出动，全部援军约2.3万余人。为确保打援的优势兵力，晋冀鲁豫军区又急调冀南纵队北上参战，并令其白天开进，故意暴露，以动摇援敌军心。5日，晋冀鲁豫军区部队从两翼向退据老爷岭的国民党援军主力发起攻击，并在北面留一缺口，诱其突围。当夜，国民党援军在其老爷岭阵地失守后，向北突围。晋冀鲁豫军区以一部兵力先机抢占虒亭以北土落村制高点，截断其退路；主力沿虒亭、屯留间公路两侧实施追击。至6日，国民党援军除2000余人逃回沁县外，其余全部被歼灭，彭毓斌被击毙。
国民党援军被歼灭后，长治守军待援无望，于8日向西突围，企图横穿太岳区，逃回浮山、翼城。晋冀鲁豫军区除以围城部队跟踪追击外，另以太岳纵队自虒亭向南取捷径直出沁水以北马壁，控制沁河，进行截击。10月12日，将突围的国民党军全部歼灭在沁河以东将军岭及桃川村地区，俘史泽波。
上党战役，是抗日战争胜利后解放区部队反击国民党军进攻所进行的第一个较大规模的歼灭战，共歼国民党军3.5万余人，缴获山炮24门、机枪2000余挺、长短枪1.6万余支，军区部队伤亡约4000人，巩固了晋冀鲁豫解放区后方，加强了中国共产党在重庆和平谈判中的地位。
