税警总团最开始是由时任国民政府财政部长的宋子文在1932年建立的私人武装。顾名思义，应该是一支用于缉私征税的非正规部队。如果这样想的话就大错特错了，因为这支部队在宋子文的大力经营下，变成了一支连国民党内甲级正规军都无法比拟的精锐部队。
对于财政部长宋子文来说，税警总团的运营经费并不是问题，经费来源是拿每年摊还八国银行团借款的盐税剩余的款项。税警总团的一切编制、装备、人事全凭宋子文意愿行事，别人无权过问。再加上宋子文同蒋介石之间的姻亲关系，并没有人敢说三道四。宋子文历来不买老蒋的账，两人意见不合时，宋子文敢当面掀桌，蒋介石也无可奈何。宋子文就乘机把一个微不足道的税警总团搞成一支精悍的武装。
税警总团建成时下属五个团，加总团直属部队，相当于六个团。团的编制相当庞大，每班有士兵十四人，每班配备轻机枪一挺，六班为一排，三排为一连，每连共计252人，相当于甲级正规军两个连。一营辖四连，另配六零炮两门。团统辖三营，另配特种兵连七个，每团战斗兵员共5000余人。总团部直辖特务营、高炮营、炮兵营、通讯营等七个营。整个总团拥有兵力三万余人。
税警总团的高级将领全部由宋子文亲手选拔，各级军官都有一个共同特点，那就是受教育文化程度极高。第一任、第四任总团长温应星、第二任总团长王庚，都是美国西点军校的毕业生。第三任总团长莫雄，北伐战争时在张发奎第四军中是一员勇将。此外还招揽了孙立人、赵君迈担任团长。从日本士官学校毕业的宋子文的妻兄张远南也跑到妹夫麾下担任了团长。虽然税警总团有不少高级军官非亲即故，但是其中很多人还是很有将帅之才的。排以上军官大部分由留美学生担任。另外还有一个由八名纳粹德国军官组成的顾问团。
其中清华大学、美国弗吉尼亚军校毕业任税警总团第四团团长的孙立人，后来因其杰出的军事才能被誉为一代虎将、有“东方隆美尔”之称。孙立人在税警总团努力施展自己的军事才能，千方百计训练部队。孙将军把中国传统教育和美国军校的教育方式结合起来，制订出适合自己部队需要的训练制度和方法，形成了一套与国军其它部队不同的训练操典，被大家称为“孙氏操典”。所属部队按照“孙氏操典”进行严格训练，官兵无论是文化水平，还是学科、术科水平，乃至专门的缉私技术都比较高。
税警总团武器装备均由财政部自行采购，精良程度就是国民政府嫡系部队德械师都相形见绌。税警总团非常青睐欧美军事强国的先进武器装备。开始主要采购美国武器，装备欧立根防空机炮、维克斯两栖战车，步枪主要是德制1924年式标准型毛瑟系列枪或比利时的FN1924/30步骑枪。并配备了大量水冷式马克沁重机枪，手枪配备的自然是闻名遐迩的7.63毫米毛瑟M1932，甚至还配备有“卡登·罗伊德”超轻型坦克。
经过宋子文和其手下将领的锐意整顿，税警总团成为了一支绝对的“非正规军”的精锐部队，而宋子文本意是用税警总团作为自己的军事资本，可惜有意栽花花不开，无心插柳柳成荫。他本打算用来争权夺利的私家军队，没成想在后来民族危亡时刻变成了一支抗战劲旅。
1932年“一二八”事变前夕，税警总团大部分驻守在上海及浦东一带，第一团驻徐家汇，第二团驻南翔，第三团驻闸北，第四团驻清东，总部设在徐家汇。在日军突袭上海时，宋子文毅然把将其苦心经营的税警总团毫无保留地拉上了抗日的第一线，并亲自颁布了作战命令。2月中旬宋子文决定驻闸北的税警三团和驻在南翔的税警二团，统归第十九路军指挥，后来当第五军驰援上海抗战时，税警团的参战部队就又改为了第五军第八十七师独立旅，以原税警团总团长王庚为旅长，同时接受第五军指挥。当时税警团参加了守卫龙华机场等战斗，税警团官兵英勇无畏，奋勇杀敌。税警二团二营官兵在惨烈的战斗中几乎全部壮烈牺牲，给入侵上海的日军以很大杀伤。
1937年7月7日，卢沟桥事变爆发，日本发动全面侵华战争。1937年8月13日淞沪会战爆发，税警总团配属张治中将军的第九集团军参加淞沪抗战，编为一、二两个支队，指挥官分别为何绍周、王公亮，总司令为黄杰。税警总团参加了蕰藻浜、苏州河以南防御等战斗，将士们作战十分英勇，给日军重大杀伤，最后由于伤亡过大而撤退。孙立人的税警第4团在蕰藻浜和大场两处战役中脱颖而出，孙因作战有功而被提升为第二支队少将司令。
孙立人率部防守苏州河周家桥一线时，与日军血战两周，被日军迫击炮炸成重伤，全身中弹片十三处，昏迷三天，被宋子文送到香港治疗。11月3日，日军继续猛攻税警总团阵地，第5团团长丘之纪阵亡，全团官兵死伤过半。第4团随即投入战斗，以凌厉的反突击攻入刘家宅，但只夺回了南侧一半的民宅，日军据北侧民宅顽抗，双方在村内逐屋逐室争夺，战况极其惨烈。战至18时，税警总团终因伤亡太大而由36师接替周家桥一带的防务。在淞沪会战中，税警总团将士浴血奋战，奋勇杀敌，给日军造成了巨大伤亡，自身也遭受到了严重的伤亡。
淞沪会战后国民政府将税警总团余部编为四十师。孙立人重伤未痊愈即赶往武汉，以税警总团5000伤兵为基础，于1938年3月赴往长沙重建税警总团。它利用清华内迁后的旧校址招兵买马，重组财政部命名的“缉私总队”，并大力招纳旧部。重建后的税警总团又就地参加了武汉会战。后来它发展成中国远征军主力部队新38师，成为国民党军五大王牌主力新一军的主力部队，横扫缅甸北部。
税警总团建立之初完全是为了个人私利，然而在民族大义面前它作为中国军队精锐义无反顾地踏上了抗战前线，并且付出了巨大伤亡给日军以重创，在伟大的抗日战争中留下了精彩的一页。
