樣的宣傳，他目睹國是日非、人民生活惡化的現狀，意識到天下大亂很快就會來臨了。於是在回到皇覺寺後，他發奮勤學，廣交朋友，準備幹出一番事業來。

1351年，白蓮教首領韓山童、劉福通在穎州（今安徽阜陽）發動起義，並推韓山童為明王。同年八月，彭瑩玉、徐壽輝在蘄水（今湖北浠水）起義。這些起義者用紅巾裹頭，故稱紅巾軍。1352年，郭子興和孫德崖在濠州起義。

明皇聞聽起義的訊息，不由心想，老在寺院裡，隨時可能被元官軍抓走，性命難保。正在此時，他收到兒時夥伴湯和的信，湯和在信中邀請明皇參加郭子興的義軍。恰在此時他的師兄秘密告訴他，說有人知道此信，要去告密。於是，明皇放下缽盂，趕緊去投奔郭子興的紅巾軍。這一年，明皇25歲。

在明皇稱帝之前，奉行的策略是朱升提出的“高築牆、廣積糧、緩稱王”。高築牆是指加強軍事防備，鞏固後方；廣積糧是指發展經濟生產，儲備糧食，增強經濟實力；緩稱王則是指不要過早稱帝，以免樹敵過多。這三條建議極具戰略眼光，是明皇發展初期的指導思想。

明皇在和州駐守幾個月後，糧食供應成了問題。與和州相對，緊靠長江南岸的太平（今安徽當塗）、蕪湖是盛產稻米的地方，但是沒有船隻，只能望江興嘆。這時恰好兩支紅巾軍的巢湖水軍前來歸附，明皇親自處理合併事宜。七月間，巢湖水軍千餘隻戰艦突破元軍封鎖抵達和州。明皇的步馬軍登上巢湖水軍的船隻，從和州東渡長江。到達對岸的採石，常遇春一馬當先，率軍衝殺，攻克採石，獲得大量糧食。將士想把糧食和戰利品運回和州慢慢享用。見此，他果斷地命人砍斷船纜，任船順流而下，斷絕退路。將士們見無路可退，一鼓作氣，在明皇率領下攻克太平。進入太平，明皇重申軍紀，嚴禁擄掠，有個別兵士犯禁，立即處死，因此，明皇的軍隊受到當地百姓的擁護。明皇於是置太平興國翼元帥府，自己做元帥，任命李善長為帥府都事。這樣，明皇便開始了穩固根據地的工作。

至正十六年（公元1356年）三月，張士誠在長江三角洲地帶發起攻勢，進攻江南元軍。乘此機會，明皇親自統率水陸大軍，第三次進攻集慶（今江蘇南京）。在第三天，攻破城外的陳兆先軍營，其部三萬六千人歸降朱元璋。但是，明皇看出降軍心存疑慮，軍心不定。於是他就從降軍中挑選了五百名勇士當親軍，在夜裡守衛，而自己身邊，只留有親兵統領馮國用一人。

第二天，降軍知道此事，都十分感動，疑慮全消，甘願跟隨明皇打天下。於是，戰爭進行得十分順利，不到十天，他便攻下集慶。

明皇進城後，下令安撫百姓，改集慶為應天府。小明王韓林兒獲報後，升他為樞密院同僉，不久又升為江南等處行中書省平章。明皇在應天則設天興建康翼大元帥府，以廖小安為統軍元帥，李善長為左右司郎中。

此時，儘管明皇擁有十萬兵力，聲勢比過去大了很多，但是佔有的地盤仍然很少，而且四面受敵。東面和南面是元軍，東南是張士誠，西面是徐壽輝，雖然同是反元武裝，但是張、徐二人同小明王卻相互敵視。不過，北面小明王、劉福通率領的紅巾軍主力，大大牽制了元軍，而且，張士誠、徐壽輝的力量還不足以兼併明皇。這樣一來，明皇暫時沒有對付不了的敵人，並且面臨著一個很好的發展機會。

明皇目前首要的任務是鞏固以應天為中心的根據地。於是在佔領應天不久，他立即派徐達攻取鎮江。出戰前，為了嚴明軍紀，他故意以放縱士卒的罪名將徐達抓起來，並準備以軍法處斬。此時，李善長出來求情，眾將不知是計，也一起求情。於是明皇就順水推舟，說看在眾人的面上，暫時免去徐達死罪，不過要徐達攻下鎮江後，做到不燒不搶，方可完全赦免徐達之罪。眾將見對