至正二十八年（1368年），明太祖朱元璋建立明朝，之后派遣徐达领兵进攻元朝首都大都，元顺帝妥懽贴睦尔被迫放弃大都，北走上都。因国号仍称“大元”，以其地处塞北，故称之为“北元”。
此时的北元仍控制着中书省的西部地区、岭北行省、辽阳行省、甘肃行省、陕西行省，以及位于西南的飞地云南行省等省份，仍保有一定的力量，其“引弓之士，不下百万众也；归附之部落，不下数千里也。”与明朝南北对峙，这是中国历史上又一个南北朝时期。
经过与明朝的几次战争，北元先后失去几十万兵力，再也无力南下与明朝相争，元顺帝试图恢复中原故土的企图彻底失败。
元顺帝病重时，皇太子爱猷识理达腊已总理军国重事，并在元顺帝死后即位，是为元昭宗。
而在即位的隔年（1371年），元昭宗建年号“宣光”，立意仿效周宣王姬静、汉光武帝刘秀等中兴帝王一样中兴大元，恢复元朝在中原的统治。
宣光八年四月十三日（1378年5月10日），元昭宗去世，其弟元天元帝脱古思帖木儿继位，继续和明朝对抗，屡次进攻明朝边境。
天元十年十月初三日（1388年11月1日），阿里不哥后裔也速迭儿杀害元天元帝，废除大元国号，国号复称“蒙古”（明朝称之为“鞑靼”），北元灭亡。
北元的灭亡，对于明朝而言是失去了政治上的敌人，蒙古已经成为了“边患”，而不再是前一个中原王朝的残余势力。
自天元十年（1388年）也速迭儿杀害元末主篡位称汗之后，蒙古开始逐渐分裂为东部鞑靼（蒙古本部）、西部瓦剌诸部（四卫拉特），另有兀良哈、哈密等其他部落暂时臣服于明朝。
明正统三年（1438年），瓦剌部的脱欢扶植大汗脱脱不花击败同时并立的大汗阿岱，统一了蒙古诸部。
明正统十四年（1449年），脱欢之子也先入侵明朝，俘虏明朝皇帝明英宗朱祁镇，史称土木堡之变。
1453年，也先举行祭天大典，正式称“大元田盛大可汗”，第二年去世，瓦剌后逐渐衰微。蒙古本部的达延汗中兴，在15世纪末重新统一各部。
达延汗以万户的名义分封汗国于其儿子与亲戚，导致了蒙古大汗统治的权力下放，但是达延汗与蒙古贵族之间仍保持着良好的关系，孛儿只斤家族的内斗并不严重，直到林丹汗统治期，蒙古在内部的纷争中削弱了自身的力量。
明崇祯八年四月二十八日（1635年6月12日），林丹汗之子额哲向当时的后金统治者清太宗投降，元太祖建立的蒙古帝国的正支汗统历经430年之后正式宣告灭亡。
