公元前3世纪时，匈奴进入铁器时代，军事实力得到相应加强，于是不断骚扰秦、赵、燕等国的边境。公元前265年，匈奴骑兵被赵将李牧击败，但不久又卷土重来。直至公元前215年，秦始皇嬴政派遣蒙恬出兵攻击匈奴，匈奴战败后;不敢南下牧马，士不敢弯弓而报怨”。
但是到了秦朝末年，匈奴却又乘机向南发展，逐渐傍近秦朝的边塞。到了汉武帝时期，汉王朝开始主动攻击匈奴，在军事天才卫青和霍去病的持续打击下，匈奴元气大伤，逐渐衰弱下去。并最终分裂为南、北匈奴。
北匈奴在西汉军队的持续压力下，开始了始无前例的民族大迁移。北匈奴的迁移历时几个世纪，其过程已经很难考证，史料记载也是相当模糊。大体上我们可以知道，北匈奴西迁途中经过康居、大宛、鄯善等西域诸国。公元4世纪中叶，北匈奴灭掉了强大的突厥国度阿兰国，西方为之震动。
当时，在北匈奴人西面，居住着两个日耳曼人部落联盟：一个是第聂伯河以西至德涅斯特河以东的东哥特人联盟，另一个是德涅斯特河以西至喀尔巴阡山之间的西哥特人联盟。西哥特人联盟的西南方，就是统治欧洲大部的罗马帝国的领土。
阿兰国被匈奴灭亡后没多久，当哥特人还沉浸在对匈奴的巨大惶恐中时，匈奴铁骑已经兵临城下，并以迅雷不及掩耳之势袭击东哥特，东哥特军队被匈奴全歼，国王自杀，部众四散逃逸。西哥特得知东哥特灭国后立刻在德涅斯特河布阵，意图阻止匈奴人渡河，不料匈奴人在远处上游偷渡后夜袭敌营，重创西哥特军。
打败西哥特人，占据南俄罗斯草原后，匈奴人得以休整，人口开始急剧增加，同时，小部分的匈奴骑兵仍然在骚扰邻国：一股匈奴骑兵渡过了多瑙河，与哥特人一起骚扰罗马帝国；另一股匈奴人，于公元384年进攻美索不达米亚，攻占了爱德沙城；还有一股匈奴人于公元396年，侵入了萨珊波斯帝国。在疆土不断扩大的情况下，以匈牙利平原为统治中心的匈奴帝国再次兴盛起来。
匈奴帝国的极盛时期是在大单于阿提拉的统领下达到的，他在公元434年与布列达共同继承王位，公元445年，布列达单于神秘的遇刺身亡后，阿提拉独掌大权。他发动的针对北欧和东欧的大规模战争，使盎格鲁撒克逊人逃亡到英伦三岛，而许多日耳曼和斯拉夫人的部族战败，纷纷向匈奴投降。
他还大举进犯东罗马帝国，迫使东罗马帝国赔款6000镑黄金，年贡2100磅黄金。至此，匈奴帝国的疆域东到里海，北到北海，西到莱茵河，南到阿尔卑斯山，盛极一时。但是阿提拉对此并不满足，他还发动了对西罗马的战争，将意大利北部变成一片废墟，使得西罗马帝国皇帝万分惊恐，被迫议和。
公元453年，阿提拉迎娶一位日耳曼族的新娘伊尔迪科，婚宴上他喝得酩酊大醉。第二天，众人走进新房，发现阿提拉血管爆裂，倒在血泊中气绝身亡，而他的新娘缩在床角瑟瑟发抖。有人认为阿提拉死于循环系统疾病，也有人怀疑是伊尔迪科谋杀了阿提拉。
在阿提拉的葬礼上，匈奴人割断头发，刺破脸颊，用鲜血悼念他们的国君。阿提拉的棺材分为三层：最外层是铁，第二层是银，最内层是金，以象征他的不朽功业。匈奴人堵塞一条河流的水，把阿提拉的遗体埋葬在干枯的河床下，然后再开闸放水。所有参与施工的奴隶都被处死，以便使后世的盗墓者无机可乘。正因如此，他的坟墓至今未能被找到。
阿提拉死后，他的儿子们为争夺大单于之位，打起了内战，匈奴帝国在瞬间瓦解崩溃了。在东哥特人、吉皮底人的反抗下，匈奴人在公元454年被迫又退回了南俄罗斯草原。公元461年，阿提拉的一个儿子妄图重建匈奴帝国，发动了对多瑙河流域东哥特人的战争，遭到失败。公元468年，他又发动了对东罗马帝国的战争，结果自己战死沙场，从此匈奴人逐渐沉寂了下去，直至被历史彻底遗忘。
而就在北匈奴迁居欧洲之际，南匈奴的驻地向南迁移，他们一直居住在河套一带，三国时期曹操把匈奴分成五个部，到了3世纪，匈奴族的五部大都督刘渊在成都王颖手下当将军，当时西晋正在经历八王之乱。刘渊担任了匈奴族的大单于，占领了北中国的大部分地区，自称汉王，史称汉赵。
匈奴的另一支族群称为羯人。汉赵的大将羯人石勒篡汉，建立赵国，史称石赵或后赵。后被氐人苻氏前秦所灭。
融入匈奴人中的月氏人，称为匈奴别部卢水胡。其中沮渠家族推举后凉汉官段业为主，在现甘肃地区建立北凉。后来沮渠蒙逊杀段业，自立为北凉主。之后又被鲜卑人拓跋氏北魏所灭。
匈奴与鲜卑的混血后代称为铁弗人。铁弗人刘勃勃被鲜卑拓跋氏击败后投奔羌人的后秦。后自认为是末代的匈奴王，改姓赫连，在河套地区（现宁夏）创立夏国，史称胡夏，后被北魏所灭。
匈奴融入靠近高丽的鲜卑宇文氏部落，进入朝鲜半岛。后来宇文氏在西魏建立的北周政权被汉族外戚杨坚所篡。杨坚经过南征北战后，创立隋朝，再次统一中原地区。
以上是十六国及魏晋南北朝时期，匈奴在中国历史舞台上进行的最后一场演出。之后，匈奴作为一个独立的民族逐渐从中国历史中消失。匈奴后裔融入汉族以后，所改汉姓有刘、贺、丛、呼延、万俟等，大多生活在今天的陕西、山西、山东等地。
