元顺帝北走到应昌(今内蒙古克什克胜旗达里诺尔西南),心情十分不好。他是元朝皇帝中接触中原文化最深的一个,难免不产生“去国怀乡”的悲凉。虽然他一心想回到中原,但此时明军兵锋正健,他始终不能如愿。回到北方草原两年后,洪武三年(1370年)四月,元顺帝妥欢贴睦尔因痢疾在应昌病逝。
北元退出中原后,蒙古贵族追忆中原的繁华与富庶,仍然一心要重新入主中原,不断组织力量反攻。明太祖朱元璋为了巩固自己的统治,对蒙古采取了征讨和招抚并用的策略。
北元初期,蒙古贵族依靠的力量主要有三支:元河南王扩廓帖木儿(原名王保保,本为汉人,为母舅察罕帖木儿收养,元顺帝赐蒙古名,意思是抬举他做蒙古人)率领十余万军队,占据山西、甘肃方面。北元丞相纳哈出拥二十余万众据守辽东。元梁王把匝剌瓦尔密管辖之下的云南还有十余万军队,策应北元皇帝的军事行动。此外,北元与东面的高丽、西面的畏兀儿地区仍旧保持着政治经济的联系。
洪武三年(1370年)四月,驻守在沈儿峪口(今甘肃定西县北)的扩廓帖木儿与明将徐达和常遇春率领的明军对峙交战,双方互有胜败。扩廓帖木儿手下有人暗中投降了徐达,约为内应。当夜,徐达派轻骑暗中偷袭。扩廓帖木儿正在帐中读书,忽然外面喊杀连天。他料知内外有变,急忙推案而起,连靴子都不及穿齐,光着一脚跑出帐外,跨上一匹马飞逃。仓促之间,手下只有十八骑跟随。扩廓帖木儿北渡黄河后,一直逃回到漠北哈拉和林。扩廓帖木儿原来所控制的陕西、甘肃一带,皆被明军占领。
扩廓帖木儿的家属在这一战中都被明军俘虏,妻子妹妹被俘,包括他尚在襁褓中的最小的儿子。为了笼络北元势力,明太祖朱元璋对这些俘虏善加优待,还把扩廓帖木儿的妹妹嫁给了自己第二个儿子秦王朱樉为秦王妃。
明太祖朱元璋又爱惜扩廓帖木儿是北元将帅中最出色的人才,特派李思齐做说客,前往哈拉和林劝说扩廓帖木儿投降。
李思齐原是元朝关中大军统帅,与扩廓帖木儿并称二员大将,为元朝倚重。后来兵败凤翔,为徐达所困,不得已投降了明朝。但李思齐与扩廓帖木儿素有嫌隙,同在元朝为官时便有仇。李思齐与扩廓帖木儿的养父察罕帖木儿为同乡,二人关系甚好。后来中原群雄并起,反抗元朝。元顺帝派军南下平叛,扩廓帖木儿被封河南王,用檄文调动李思齐兵马。李思齐见扩廓帖木儿在檄文中的语气甚为无礼,大怒,不听调度。扩廓帖木儿也大怒。两方各调人马,自己跟自己打了起来。元顺帝居中调和都没有效果。双方打了整整一年,大小几百战,不分胜负。元顺帝借扩廓帖木儿部下倒戈之际,解除了扩廓帖木儿的统帅权。尽管如此,元顺帝还是疑忌扩廓帖木儿,派皇太子总制天下兵马,并利用李思齐防备扩廓帖木儿。后来,扩廓帖木儿被明徐达围困在宁夏,曾经向当时驻防陕西的李思齐求救,恳请他助一臂之力,李思齐却拒不发兵。结果一战中扩廓帖木儿损兵折将,家属尽被明军俘虏。
李思齐明知明太祖朱元璋此时派他前往和林谕降,隐有借刀杀人之意,却不敢违命,硬着头皮,出使漠北。见面时,扩廓帖木儿倒没有表现出要清算老账的样子,以礼相待李思齐。只是当李思齐说到招降时,扩廓帖木儿不答。李思齐知道此行必然无功,便赶紧辞别。扩廓帖木儿特地派骑士送李思齐到塞下。刚要分别,骑士突然说:“主帅有命,请留一物为别。”李思齐道:“我远来,无所赍送,怎么办?”骑士道:“珍玩财宝,我主帅并无所爱,只要你的一条手臂。”李思齐这才知道扩廓帖木儿一直没有忘记旧仇,取自己手臂之意是报复当初他不肯助一臂之力,但势不可免,只好挥剑砍下自己的左臂。回来后不久,李思齐便因伤重而死。
明太祖朱元璋曾经说:“如今天下一家,只有三事未了,挂在心头。一件少传国玉玺,一件王保保未擒,一件元太子无音讯。”
元顺帝太子爱猷识理达腊逃到哈拉和林,与扩廓帖木儿会合。爱猷识理达腊随即在哈拉和林即皇帝位,称必力克图汗,年号宣光。他厉兵秣马,希望有朝一日重登中国皇位。然而,蒙古的军事力量已经衰败了,北元在与明朝的较量中节节败退,北元主力逐渐北移到哈拉和林一带。