元朝末年，朝廷腐敗無能，社會矛盾尖銳，自至正十一年五月，韓山童和劉福通鼓動黃河民工起義之後，天下騷亂，起義軍四起，朱元璋也在江淮地區起兵，自至正十六年，拿下集慶，也就是今天的南京城後，逐漸成長為一股不可忽視的勢力。
後來，朱元璋相繼攻滅了盤踞在湖廣、江西一帶的陳友諒；盤踞在江浙一帶的張士誠和盤踞在浙東一帶的方國珍之後，南方剩下的那點勢力已經不足放在眼裡，由此老朱開始為北伐元朝做足準備。
朱元璋召集諸多文武大臣，商討北伐的大體方略，這時平章常遇春便大膽提出自己的意見，認為應該長驅直入，直搗元朝的大都，也就是現在的北京城。
常遇春性子急，所以給出的這個北方方案，有點太過於簡單粗暴了一點，雖然元朝現在很腐朽無能，元軍的戰鬥力很差，但你就這麼直直地朝著人家首都打過去的話，有點太過於不將對方給放在眼裡，太過於輕敵冒進了一點。
所以，老朱當即否定了常遇春所給出的方案，這時候徐達站了出來，他根據當時元朝在中原和西北的兵力部署，以及各部之間的關係和內部政治傾向，軍事能力等等諸多因素，提出逐步推進的北伐策略。
認為山東就是元朝的屏障，必須先將其給攻取了，然而就可惜西進攻打河南，剪除掉他的羽翼，再能夠將潼關給拿下之後，進可以掃除盤踞在關中的軍閥，退可以阻止，這些陝西軍閥出關，去支援元王朝。
這個時候，再對大都發起總攻，元王朝就會陷入勢孤援絕的尷尬處境，這樣大都就手到擒來了的。等大都一破，就可以對陝西、山西一帶的殘軍進行掃除了。
徐達的這個計劃，穩重且有依據，深得朱元璋的喜歡，就同意這麼做了，後來的北伐也基本上按照此而穩步推進。
在至正二十七年十月二十一日這一天，朱元璋拜丞相徐達為徵虜大將軍，平章常遇春為副將軍正式起師北伐。
從至正二十七年十一月到至正二十八年，也就是洪武元年二月，在這短短四個月的時間裡，徐達就基本拿下來山東，北伐第一階段任務順利完成。
隨後，徐達揮師西向，分兵兩路進攻河南，一路由濟寧，沿黃河而上，直撲汴梁，也就是現在的開封；另一路則由河南永城、歸德出發，直逼許昌。同時讓徵南將軍鄧愈，總領襄陽、安陸、景陵等處兵馬北攻南陽。
在這三路大軍的壓迫下，河南迅速被平定，就連潼關重地也可以也被輕易拿下，北伐的第二階段順利完成。
河南、山東已經平定，潼關也被牢牢控制在自己手裡，那群盤踞在陝西，早就不聽元王朝的軍閥，諸如李思齊、張思道、張良弼、張良臣等等都被鎖在關中那邊，根本就出不來，就算想要去支援元王朝也會很困難，而王保保則在山西一帶徘徊觀望，想要期望他能夠替元王朝死戰到底，還不如期望一下母豬上樹！
所以，此時此刻的元廷，正如同徐達此前所預料的那般，正處於孤立無援的尷尬地位，隨時都可以被趕出大都，在此之前，朱元璋先趕到了汴梁，與北伐軍隊商量具體的滅元之事。
當時徐達就詢問了朱元璋，表示如果拿下來大都，而元廷又溜到了塞外去，那要不要窮追到底。對此，老朱表示不用，元廷如果逃到塞外去，那就固守邊疆就可以了。
很快，北伐再度打響，徐達率軍渡過黃河，攻佔了邯鄲等河北地區，到達臨清之後，與各路大軍一起匯合，水陸並進直撲大都。元廷果真提前開溜，大都就這樣拱手相讓，至此元朝滅亡，剩餘的勢力被後世史學家稱為北元或殘元，北伐的第三步也順利完成。
至此，徐達所定下來的北伐三步走計劃，圓滿完成既定作戰目標，從這件事情我們就可以看得出，徐達不僅是一個勇猛無畏的武將，同時也是一個頗具戰略目光的元帥。