太原機務段始建於1906年,當時的規模較小,設備和技術相對落後,主要承擔著本地及周邊地區的鐵路運輸任務。
新中國成立後,太原機務段配屬了多種蒸汽機車,如建設型、前進型等,承擔石太線、北同蒲線等線路的貨運列車牽引任務。1958年,機務段新造解放型4101號機車牽引2340噸貨物列車試運轉。
1980年,太原北機務段配屬了12台韶山1型電力機車,山西邁入電力機車時代。1982年10月1日,石太線(石家莊至太原北段)全線通車,韶山1型電力機車擔任牽引任務,運輸效率明顯提高。此後,太原機務段陸續配屬了8G型、8K型等電力機車。
靈丘內燃機務段於1971年開始籌建,1972年起陸續配屬東方紅1型、NY7型、東風4型、ND5型等內燃機車,主要擔當京原線的客貨運任務。後來靈丘內燃機務段整合進太原機務段。
2005年,全國鐵路撤銷43個鐵路分局,成立18個鐵路局,太原鐵路分局與大同鐵路分局合併成立太原鐵路局,太原北機務段發展邁上新台階。2014年7月1日,大西高鐵開通運營,太原機務段成為太原局集團公司唯一擔當高鐵、動車組牽引任務的單位。如今,太原機務段動車運用車間使用多種型號高鐵動車組列車,承擔大西高鐵、京石高鐵等多條線路的動車組牽引任務。
每年春運,太原機務段都會開展“零點行動”。2024年春運,在“零點行動”誓師大會上,100餘名職工高舉右拳許下春運安全承諾。大會前,各運用車間評選出40對“好師傅”“好徒弟”,鼓勵老職工傳幫帶。大會後,青年志願者隊伍為一線職工送上慰問品。“零點行動”既為春運工作加油鼓勁,又引導青年職工學習榜樣精神。
從1954年新中國春運開始,太原機務段的楊家四代人在64年里接力春運。曾祖父楊鳳祥是機車鉗工,為保障春運機力供應,發揮“老工匠”精神和黨員先鋒作用。祖父楊慶堂成為蒸汽機車司爐、司機,通過努力解決了下坡道制動力偏弱等問題。父親楊子華擁有三種機型機車的駕駛資格,春運路上常與父親互學技術。孫子楊玉峰在2013年大學畢業後成為火車司機,他在第三屆春運前與女友拍攝機車主題婚紗照,並約法三章保障工作。
2019年,何作凍進入太原機務段設備車間從事工具鉗工工作。他曾是軍人,轉業後不分晝夜學習專業知識,迅速適應新工作。何作凍熱愛公益事業,成立神舟老班長學雷鋒團,組織戰友開展慰問退役軍人、老革命等活動,還在2023年參與了向淶水縣受災群眾捐贈救援物資的行動,榮獲“山西慈善獎”的“慈善行為楷模”稱號。