他在凯旋的路时病逝，朱元璋为其亲自出奠

朱元璋之所以能打下江山，离不开众多良臣猛将的鼎立支持，而虎将常遇春便是其中一个。

常遇春于元顺帝至正十五年归附朱元璋，并自请为前锋，结果力战克敌，威不可挡，被称之为“常十万”，后因战功被提升为元帅。在朱元璋和陈友谅的内战中，常遇春立下赫赫战功，更得朱元璋赏赐。

元至正二十七年（1367年），朱元璋任命征虏大将军徐达为主将、常遇春为副将统率25万大军，由淮河入河南进行北伐，目标直指元朝政权。

至正二十八年（1368年）间七月间，明军进通至大都。元顺帝得知消息后不顾大臣的反对，命令淮王帖木儿不花监国，以庆童为左丞相留守京城，自己则在闻七月二十八日夜带着皇后嫔妃以及重臣们开健德门仓皇北逃。八月二日，明军攻大都，准王及庆童被杀，大都被明朝改称北平。

元顺帝一行人离开大都，逃亡上都方向。元顺帝到达上都之后，任命也先不花为中书左丞相，以木华黎的后裔纳哈出为辽阳行省左丞相，封王保保为齐王。同时，他打算重整旗鼓，反攻明朝，恢复昔日的辉煌。

大都是元朝近百年来的统治中心，因此元顺帝把首要目标对准了大都。洪武元年，王保保击败了驻守泽州的明军，胜利之后的王保保信心爆棚，恰好此时，他又接到了元顺帝的命令，让其率军夺回大都。王保保率军出雁门关直奔保安州，打算经居庸关攻击大都。而此刻明军主力已经离开北平府南下，准备跟河南明军夹攻驻守山西的北元军，所以徐达当时只留了3万兵驻守北平府。得到情报的徐达召集将领们开会，面对来势汹汹的王保保主力军，徐达让傅友德、薛显带38006骑兵先行，攻打平定州，而自己带骑兵主力经过井陉进入山西。这样，明军赶在了王保保军尚未到达北平之前，杀到了太原城下！王保保进军到保安州时，得到了消息，说明军围攻太原。他大惊失色。失去太原就意味着自己失去了栖身之所，而且后路被断，就要面临明军两路夹攻的威胁，无奈之下，他只好退军回救太原。回师太原城下的北元军队有十几万之众明军在人数上占了劣势。明军就地扎营，跟北元军对峙。

副将军常遇春看到王保保人多势众、锋锐未消，担心若是正面对阵的话明军或许会遭受不小的损失，于是他向徐达建议说：“我军快速奔袭太原，虽然骑兵大多集合在这儿，但毕意人少势微，而步军大队还没有到达，不可轻易浪战，不如派道支精兵在夜里奇袭敌军大营制造混乱。深夜遭袭，敌军将不知兵、兵不识将，必然失去节制，我军趁这个时候直取敌将、则可一酸而定。”恰好此时王保保手下有一名将领暗中跟明军约降，表示可以里应外合。

这天夜回，徐达派请战夜袭的郭英带领十余骑兵，在蓄鼻马部下的带领下，冲入北元营地，常遇春则带兵在后接应。郭英举火鸣炮为号，接到信号的明军杀入元营，毫无防备的北元军乱作一团。这时候王保保正在帐中手棒兵书，刻苦研读，听闻帐外炮声、系声大作，心知不妙，连忙骑上马，带领18名骑兵仓皇逃窜直奔大同而去。常遇春带兵急追到忻州，但依然没有追到王保保，无奈之下只好返回。而王保保见摆脱了追兵，便逃往甘肃。

此战之后，徐达带领士兵进通太原城西，成功招降元军4万余人，并缴获战马4万余匹，太原遂克。

不甘失败的元顺帝于洪武二年派遭丞相也速带领骑兵4万南下攻击通州，并扬言要收复大都。其实这一军事行动也是为了牵制攻击陕西李思齐部的明军主力。洪武二年四月，常遇春和李文忠带兵9万，由陕西迅速驰授北平；到六月明军到达北平之时，北元已经退军。常遇春和李文忠率领步兵8万、骑兵1万共9万大军自北平一路攻取，并在锦州击嫩元将江文清，俘获兵马以千计，之后又在全宁击败前来应战的元丞相也速。随后明军进攻大兴州，这时候李文忠建议说：“大军攻势猛烈，大兴的元兵不收抵抗肯定要逃跑，不如分兵1000余人去埋伏在路上。”常遇春采纳了这条建议，当天夜里元兵果然趁着夜色逃跑，明军伏兵顺势堵截，大破元军并俘获了丞相脱火赤。

攻取大兴后，常遇春继续率兵进攻开平。元顺帝看元军连续战败，身边已经没有多少抵抗力量，毫不犹腺地放弃开平北逃。常遇春急忙率军追赶，在路上抓获宗王庆生和平章鼎往，将这二人斩杀，此外还俘获元兵1万余人、车1万辆、战马3000、耕牛5万头。他虽然没有抓到元顺帝，但此战扫清了北平周围的元朝势力。

可惜的是，胜利回师的常遇春七月间行军到柳河川时，得重病暴卒，当时年仅40岁。明太祖朱元璋得知耗，大为震悼，赐葬钟山之下，并亲自出奠，追封他为开平王，谥曰忠武。同时，还命令宫廷画师为常遇春公绘制身穿龙袍的全身像。

常遇春逝世后，民众怀念他在很多地方建祠祭祀。乾隆十六年（公元1720年）乾隆皇帝亲笔御提“勇动风云”四字，这四个字很是精准的概括了常遇春的一生。