陳慶之是南北朝時期一流的名將，但他一路勢如破竹，以及最後功虧一簣，其實都與當時的大環境有著密切的關係。
大通元年（527年），陳慶之隨大將曹仲宗伐北魏渦陽城，魏遣徵南將軍元昭馬步軍五萬來援。前鋒進抵距離渦陽四十里的駝澗。陳慶之慾率軍迎敵，大將韋放提出反對，後陳慶之率二百騎兵，連夜奔襲，一舉破敵，“魏人震恐”。
陳慶之又迅速回軍，與諸將連營而進，背靠渦陽，與魏軍援兵相持。一年之內，雙方前後作戰數十百次，梁軍師才老氣衰，而北魏的援兵又源源不斷地開來，並打算於梁軍背後構築營壘，前後夾擊。主將曹仲宗等深恐腹背受敵，打算引軍南撤，陳慶之杖節軍門，力排眾議，責備眾將，一番大義凜然的言辭，以及其豪邁的氣概打動了諸將，大家才打消了班師的念頭。
不久，魏人以掎角之勢，築成了十三座城池，“欲以控制梁軍”，陳慶之銜枚夜出，攻破四座城池，北魏渦陽守將王緯恐懼求降，魏人剩下的九座城池中，兵力猶頗雄厚。於是韋放選了三十幾名魏軍降卒，命他們分赴九城，報告敗訊，陳慶之率領大軍，“陳其俘馘，鼓譟而攻之”，魏軍九城皆潰，梁軍乘勝追擊，城中男女三萬餘口棄甲投降，負隅頑抗的魏軍斬殺略盡，屍體塞滿河中，渦水為之不流，梁武帝聞報大喜，親頒手詔嘉獎陳慶之。
爾朱榮
大通二年（528年），北魏繼破六韓拔陵起義後，葛榮起義軍又席捲河北，北魏大將爾朱榮將執政的胡太后及三歲的幼主元釗沉於黃河，另立傀儡元子攸為帝，即孝莊帝。爾朱榮又以祭天為名，將北魏朝官二千餘人誘至換個號邊，全部圍殺，史稱“河陰之變”，在一片混亂之中，魏北海王元顥投奔南梁，並請示梁武帝立其為魏王。武帝滿口答應，並派陳慶之率兵七千，護送元顥北歸。
一路上，陳慶之斬關奪隘，勢如破竹，進至睢陽，魏守將丘大千有軍七萬，是梁軍的十倍，分駐九城以拒，陳慶之揮師猛攻，從早晨一直殺到黃昏，攻陷了三座城池，丘大千只得投降。於是，元顥在睢陽即位稱帝，改年號為“孝基”。
而就在這時，魏徵東將軍元暉業率軍兩萬來救，進屯於梁郡的考城。這考城四面臨水，守備嚴固，陳慶之命部下浮水築壘，將其一舉攻破，生擒元暉業，繳獲輜重車七千八百餘輛，軍資器械無數，又打了一個漂亮仗。元顥加陳慶之為衛將軍、徐州刺史，命其引兵面西，直趨魏都洛陽。
陳慶之
進抵滎陽時，北魏大將楊昱擁有眾七萬，抗拒元顥，陳慶之攻之未拔，元顥派人勸降，也被楊昱一口拒絕，這時，北魏大將元天穆、爾朱兆率領的援兵又源源不斷地朝滎陽開來，旗鼓相當，聲勢浩大，梁軍前有堅城，後無退路，敵人援兵又已經開到，處境極其險惡。
陳慶之在戰前又做了一番慷慨激昂的鼓動，軍勢大振，梁軍人人死戰，最終一舉攻克滎陽，活捉了楊昱，片刻功夫，元天穆、爾朱兆的大軍一舉將滎陽團團圍住。陳慶之乘旺盛之士氣，挾拔城之餘威，率三千騎兵，背城逆戰，大破魏軍。元天穆、爾朱兆單騎逃脫，梁軍大獲全勝。
接下來，陳慶之攻破虎牢關，魏都洛陽無險可守，孝莊帝元子攸北逃幷州，魏臨淮王、安豐王率百官，封府庫，備法駕，迎接元顥入城，黃河以南地區，幾乎全被梁軍控制，元顥改元建武，大赦天下，封陳慶之為侍中，車騎大將軍，增邑萬戶。
可是元顥進佔洛陽後卻認為是“天命有歸”，驕傲自大起來，整日整夜地飲酒作樂，不復視事，他寵幸的一批近習小人則干擾政務，對百姓橫徵暴斂，弄得朝野失望，他當初是梁武帝所立，只是因為北方事難未平，還得依仗陳慶之的兵力才暫時沒有發作。陳慶之心中有數，暗中防備，啟奏元顥，想要向梁武帝求兵，然而卻被元延明橫加阻撓，認為陳慶之出兵數千，已經難於控制，如果再增加他的兵力，還能為其所用麼？
蕭衍
於是元顥給梁武帝的上奏，就變成了河南河北已定，只有爾朱榮未服，陳慶之能夠獨自擒拿。
援兵不至，洛陽城中“南兵不滿一萬，而羌胡之眾十倍”，不待爾朱榮來攻，情況已經十分危險，副將馬佛覺得陳慶之功高震主，勸他不如乘自己威震中原時，殺掉元顥，據於洛陽，建千載奇勳。陳慶之沒有同意，因元顥曾封其為徐州刺史，就堅決要求回徐州就任。元顥卻把梁武帝給搬了出來，要求陳慶之留在洛陽，陳慶之不敢再言，只有坐等喪敗了。
不久，爾朱榮會同元天穆、爾朱兆、爾朱世隆等，挾持孝莊帝，號稱百萬之眾，大舉進攻洛陽，與元顥相持於黃河沿岸，陳慶之率軍苦戰，三天中打了十一仗，敵軍傷亡慘重。
元子攸
爾朱榮見不能得手，打算撤退，被部下勸止，就在這時，元顥率領的羌胡軍潰敗，元延明所部有聞訊而逃，河南諸城一時盡皆叛降爾朱榮。敗局已定，陳慶之只得削髮落須，化裝成和尚，從小路逃回了梁境，梁武帝因其功大，仍封他為右衛將軍，永興縣侯，而元顥不久即被北魏地方官擒殺。
陳慶之為什麼會敗，一則軍事上，他沒有得到梁武帝的援軍，元顥又成事不足敗事有餘，他的軍隊孤軍深入，雖然打下了大半個北方，但問題他陳慶之打的是元顥的名義進軍的，他是客軍。元顥也不想做個梁武帝在北邊的傀儡過渡政權，自然要防備陳慶之。
陳慶之即便再強，也不可能在一群不是自己人還防備自己的友軍中打敗爾朱榮幾十萬的大軍吧。
同時，陳慶之也不是一個政治家，他的軍隊也不是“弔民伐罪”義師，陳慶之就曾說過，他們一路殺來，屠城略地，實為不少，君等殺人父兄，掠人子女，亦可算矣。可以說，陳慶之的軍隊是十分殘暴的。史學家呂思勉先生就曾說：此等兵，雖善戰，亦不能定國也。