1950年代的呼和浩特，内蒙古博物馆与驼队
呼和浩特阴山一带远古人类活动，有悠久历史。1973年在呼和浩特东北发现的距今50万年前的“大窑文化”发生于与北京周口店北京人同一时期的旧石器时代初期至晚期。
春秋战国之前，一些北方游牧民族，如匈奴、林胡、楼烦在今天的呼和浩特地区游牧生活。战国时代的赵国国君赵武灵王推广“胡服骑射”，打败林胡、楼烦这两个游牧民族之后，在呼和浩特托克托县建云中城。中原华夏民族开始在呼和浩特定居。“赵长城”经过呼和浩特北面的大青山。
前221年，秦始皇统一中国，建立三十六郡，呼和浩特附近的云中郡就是其中一郡。汉武帝时，云中是防备匈奴的前哨和远征匈奴的基地之一。今新城区的塔利村就留有西汉时期的土城遗址。北魏早期都城“盛乐”即在今呼和浩特南面40千米的和林格尔县上土城村北，盛乐经济园区西。唐朝贞观年间，唐军大败突厥汗国于白道（今呼和浩特市北蜈蚣坝）。708年（景龙二年），唐王朝在河套地区设立了东、中、西3个“受降城”。后在此设丰州。公元10世纪初，辽代在丰州设天德军。丰州故址在今呼和浩特东南约20千米的白塔村附近。公元12世纪初，女真崛起，金灭辽，仍称丰州，是当时的军事重镇，也是人口密集，商业繁荣的州邑之一。元朝时丰州的经济文化发展迅速。文人刘秉忠诗曰：“晴空高显寺中塔，晓日平明城上楼。车马喧阗尘不到，吟鞭斜袅过丰州”。
元朝被明朝推翻之后，蒙古人退居塞外，延续北元政权。明朝在漠南地区先后设置了卫所40多处，分别为十三大塞王辖区，当时呼和浩特属晋王辖区，为东胜卫所在地。1388年北元分裂为东部鞑靼和西部瓦剌。15世纪末，达延汗统一东部蒙古实现“中兴”。1572年，漠南蒙古首领阿勒坦汗（达延汗的孙子）率土默特部驻牧呼和浩特，并在今玉泉区境内建“库库和屯”城，从此土默特部从草原游牧过渡到定居生活。因封贡后土默特和明朝订立藩属关系，阿勒坦汗被封为“顺义王”。明廷于万历年间赐库库和屯汉名“归化”，意思是令少数民族归顺、化一，服从明朝廷的统治。此即“归化城”（即旧城）。
后金时，土默特部被蒙古林丹汗击溃，后又归附皇太极，此后被称为“归化城土默特”。清雍正元年（1723年），置归化厅，雍正六年，又置归绥道。乾隆四年（1739年），增置绥远厅同知。乾隆二十五年，以归绥所属地归化城、清水河、萨拉齐、和林格尔、托克托城增置五通判，与归、绥二厅并属归绥道。乾隆二十九年，裁归化城通判[4]。雍正十三年至乾隆四年又在归化城东部新建军事驻防城，命名为“绥远城”（即新城），后将“归化”、“绥远”两城合并为归化县。
中华民国时期，归绥市为绥远省省会亚新地学社1936年《袖珍中华全图》的绥远省地图
1913年，中华民国北京政府将之改名为归绥县，属绥远特别区。1928年，国民政府设绥远省，以归绥县城区设立归绥市，作为省会。抗日战争时期，日本扶持的蒙古联盟自治政府将归绥市改为日式蒙语名“厚和豪特”，后蒙疆政府改称“厚和特别市”[5]。1945年日本战败后，复称归绥市。
1950年，中华人民共和国撤县设归绥市，1954年，内蒙古、绥远合并，内蒙古自治区人民政府由张家口市迁到这里，并设呼和浩特市，定为内蒙古自治区首府。[6]
1960年，原属乌兰察布盟的土默特旗划归呼和浩特市。
1963年，将土默特旗划归乌兰察布盟。
1970年，乌兰察布盟所属土默特左旗、托克托县划归呼和浩特市。
1995年11月21日，乌兰察布盟的和林格尔县、清水河县划归呼和浩特市。
1996年5月18日，乌兰察布盟的武川县划归呼和浩特市。