稅警總團最開始是由時任國民政府財政部長的宋子文在1932年建立的私人武裝。顧名思義，應該是一支用於緝私徵稅的非正規部隊。如果這樣想的話就大錯特錯了，因為這支部隊在宋子文的大力經營下，變成了一支連國民黨內甲級正規軍都無法比擬的精銳部隊。
對於財政部長宋子文來說，稅警總團的運營經費並不是問題，經費來源是拿每年攤還八國銀行團借款的鹽稅剩餘的款項。稅警總團的一切編製、裝備、人事全憑宋子文意願行事，別人無權過問。再加上宋子文同蔣介石之間的姻親關係，並沒有人敢說三道四。宋子文歷來不買老蔣的賬，兩人意見不合時，宋子文敢當面掀桌，蔣介石也無可奈何。宋子文就乘機把一個微不足道的稅警總團搞成一支精悍的武裝。
稅警總團建成時下屬五個團，加總團直屬部隊，相當於六個團。團的編製相當龐大，每班有士兵十四人，每班配備輕機槍一挺，六班為一排，三排為一連，每連共計252人，相當於甲級正規軍兩個連。一營轄四連，另配六零炮兩門。團統轄三營，另配特種兵連七個，每團戰鬥兵員共5000餘人。總團部直轄特務營、高炮營、炮兵營、通訊營等七個營。整個總團擁有兵力三萬餘人。
稅警總團的高級將領全部由宋子文親手選拔，各級軍官都有一個共同特點，那就是受教育文化程度極高。第一任、第四任總團長溫應星、第二任總團長王庚，都是美國西點軍校的畢業生。第三任總團長莫雄，北伐戰爭時在張發奎第四軍中是一員勇將。此外還招攬了孫立人、趙君邁擔任團長。從日本士官學校畢業的宋子文的妻兄張遠南也跑到妹夫麾下擔任了團長。雖然稅警總團有不少高級軍官非親即故，但是其中很多人還是很有將帥之才的。排以上軍官大部分由留美學生擔任。另外還有一個由八名納粹德國軍官組成的顧問團。
其中清華大學、美國弗吉尼亞軍校畢業任稅警總團第四團團長的孫立人，後來因其傑出的軍事才能被譽為一代虎將、有「東方隆美爾」之稱。孫立人在稅警總團努力施展自己的軍事才能，千方百計訓練部隊。孫將軍把中國傳統教育和美國軍校的教育方式結合起來，制訂出適合自己部隊需要的訓練制度和方法，形成了一套與國軍其它部隊不同的訓練操典，被大家稱為「孫氏操典」。所屬部隊按照「孫氏操典」進行嚴格訓練，官兵無論是文化水平，還是學科、術科水平，乃至專門的緝私技術都比較高。
稅警總團武器裝備均由財政部自行採購，精良程度就是國民政府嫡系部隊德械師都相形見絀。稅警總團非常青睞歐美軍事強國的先進武器裝備。開始主要採購美國武器，裝備歐立根防空機炮、維克斯兩棲戰車，步槍主要是德制1924年式標準型毛瑟系列槍或比利時的FN1924/30步騎槍。並配備了大量水冷式馬克沁重機槍，手槍配備的自然是聞名遐邇的7.63毫米毛瑟M1932，甚至還配備有「卡登·羅伊德」超輕型坦克。
經過宋子文和其手下將領的銳意整頓，稅警總團成為了一支絕對的「非正規軍」的精銳部隊，而宋子文本意是用稅警總團作為自己的軍事資本，可惜有意栽花花不開，無心插柳柳成蔭。他本打算用來爭權奪利的私家軍隊，沒成想在後來民族危亡時刻變成了一支抗戰勁旅。
1932年「一二八」事變前夕，稅警總團大部分駐守在上海及浦東一帶，第一團駐徐家匯，第二團駐南翔，第三團駐閘北，第四團駐清東，總部設在徐家匯。在日軍突襲上海時，宋子文毅然把將其苦心經營的稅警總團毫無保留地拉上了抗日的第一線，並親自頒布了作戰命令。2月中旬宋子文決定駐閘北的稅警三團和駐在南翔的稅警二團，統歸第十九路軍指揮，後來當第五軍馳援上海抗戰時，稅警團的參戰部隊就又改為了第五軍第八十七師獨立旅，以原稅警團總團長王庚為旅長，同時接受第五軍指揮。當時稅警團參加了守衛龍華機場等戰鬥，稅警團官兵英勇無畏，奮勇殺敵。稅警二團二營官兵在慘烈的戰鬥中幾乎全部壯烈犧牲，給入侵上海的日軍以很大殺傷。
1937年7月7日，盧溝橋事變爆發，日本發動全面侵華戰爭。1937年8月13日淞滬會戰爆發，稅警總團配屬張治中將軍的第九集團軍參加淞滬抗戰，編為一、二兩個支隊，指揮官分別為何紹周、王公亮，總司令為黃傑。稅警總團參加了薀藻浜、蘇州河以南防禦等戰鬥，將士們作戰十分英勇，給日軍重大殺傷，最後由於傷亡過大而撤退。孫立人的稅警第4團在薀藻浜和大場兩處戰役中脫穎而出，孫因作戰有功而被提升為第二支隊少將司令。
孫立人率部防守蘇州河周家橋一線時，與日軍血戰兩周，被日軍迫擊炮炸成重傷，全身中彈片十三處，昏迷三天，被宋子文送到香港治療。11月3日，日軍繼續猛攻稅警總團陣地，第5團團長丘之紀陣亡，全團官兵死傷過半。第4團隨即投入戰鬥，以凌厲的反突擊攻入劉家宅，但只奪回了南側一半的民宅，日軍據北側民宅頑抗，雙方在村內逐屋逐室爭奪，戰況極其慘烈。戰至18時，稅警總團終因傷亡太大而由36師接替周家橋一帶的防務。在淞滬會戰中，稅警總團將士浴血奮戰，奮勇殺敵，給日軍造成了巨大傷亡，自身也遭受到了嚴重的傷亡。
淞滬會戰後國民政府將稅警總團余部編為四十師。孫立人重傷未痊癒即趕往武漢，以稅警總團5000傷兵為基礎，於1938年3月赴往長沙重建稅警總團。它利用清華內遷後的舊校址招兵買馬，重組財政部命名的「緝私總隊」，並大力招納舊部。重建後的稅警總團又就地參加了武漢會戰。後來它發展成中國遠征軍主力部隊新38師，成為國民黨軍五大王牌主力新一軍的主力部隊，橫掃緬甸北部。
稅警總團建立之初完全是為了個人私利，然而在民族大義面前它作為中國軍隊精銳義無反顧地踏上了抗戰前線，並且付出了巨大傷亡給日軍以重創，在偉大的抗日戰爭中留下了精彩的一頁。
