中铁三局集团成立至今经历了半个世纪的风雨历程，从小到大，从弱到强，逐步发展壮大，机构名称几经调整变更：
1952年4月1日，为了适应新建东北林区铁路建设的需要，铁道部决定组建铁道部库图段铁路工程处，这是中铁三局集团的前身。处址设在内蒙古自治区牙克石镇。
1953年1月，库图段铁路工程处扩建为铁道部新建铁路工程总局第十工程局。
1954年1月，第十工程局改为哈尔滨铁路管理局牙克石工程分局。
1955年1月，哈尔滨铁路管理局牙克石工程分局改称为铁道部新建铁路工程总局第七工程局。
1955年8月，第七工程局缩编为铁道部新建铁路工程总局东北森林铁路工程处。1956年1月，处址由内蒙古自治区牙克石镇迁入河北省承德市。
1958年4月，东北森林铁路工程处改称为铁道部东北铁路工程处。处址设在黑龙江省哈尔滨市。
1958年铁路实行工程和运输管理合一的管理体制，同年12月铁道部决定将东北铁路工程处改称为铁道部海拉尔铁路工程局。局址设在内蒙古自治区海拉尔市。
1961年1月，海拉尔铁路工程局改设为铁道部东北铁路工程局。1963年局址由海拉尔迁入哈尔滨市。
1968年6月1日，铁道部决定按数字序号设置工程局，即将东北铁路工程局改称为铁道部第三工程局。1972年4月，局址由哈尔滨市迁入山西省太原市至今。
1970年7月，铁道部与交通部、邮电部所属邮政部分合并，成立新的交通部，铁路由交通部领导。铁道部第三铁路工程局改称为交通部第三铁路工程局。
1975年1月，国家恢复成立了铁道部，5月1日交通部第三铁路工程局改称为铁道部第三工程局。
1984年11月，为进一步搞活铁路施工企业，使铁路企业逐步转变为相对独立的经济实体，铁道部决定将铁道部第三工程局改称为铁道部第三工程公司。1985年9月1日，根据铁道部的决定，恢复铁道部第三工程局的名称。
2000年11月28日，铁道部第三工程局改制为中铁三局集团有限公司至今。
