安排好朝中的事務后，劉裕從建康出發，率領水軍從淮水進入泗水。五月，東晉部隊到達下邳，把船艦、笨重的軍用物資留下，步行開進到瑯琊，所經過的地方，都修筑起城池，并留下軍隊把守。
當時從瑯琊到南燕國都廣固城有三條通道：一條是沿沂水北上，越過大峴山，直搗臨朐、廣固，這是一條捷徑，但大峴山險峻，山高達七十余丈，周圍二十多里，山上有穆陵關，通道僅能容納一輛車的寬度，被稱為“齊南天險”；一條是從東北經過莒城、東武入濰水北進，再往西走進攻廣固，這條路繞行甚遠，耗費時日；還有一條是從西北越過泗水經梁父城，轉向東北逼近廣固，這條路山路太長，行軍運輸都很困難；劉裕選擇了第一條路。
有人對劉裕提出：“燕國人如果把大峴山的險要堵塞住，或者加固城墻，將散居在外的百姓聚居起來，只把空蕩蕩的田野留給我們，那么，我們的大部隊深入到敵國重地，不僅不能建立什么功業，還很有可能無法安全返回，如果發生這種情況，怎么辦？”
劉裕說：“我已經把這些都考慮過了，鮮卑人生性貪婪，沒有長遠的打算，前進的時候只盼望多多地搶奪擄掠，后退的時候又吝惜田中的禾苗。他們以為我們孤軍深入一定不能長久堅持，因此不外乎進軍駐守臨朐，或者退兵戍守廣固，一定不會據險要之地抵抗、清肅四野防備我們，我敢向你們保證?！?/p>
南燕國主慕容超聽說東晉軍隊來討伐，便召集大臣們在一起商議討論對策。征虜將軍公孫五樓說：“敵軍的兵眾輕裝前進，他們追求的是速戰速決，我們不能與他們正面作戰，應當據守大峴，讓他們無法進入，拖延時間，挫傷他們的銳氣，然后再從容地挑選精壯騎兵二千人，沿著海濱南下，斷絕他們運送糧草的通道，另外再命令段暉率領兗州的軍隊沿著山地向東進軍，在后背處進攻他們，這是最好的辦法。或者，分別命令各地的官員依靠險要自己固守，估算自己所用的食物物資以外，剩下的全部燒毀，再把田野中的莊稼全部割光，讓來犯的敵人沒有東西可以補充給養，他們遠征的部隊既沒有糧草，求戰又找不到對手，一個月之間，我們就可以控制他們了，這是一般的辦法。如果把賊兵放入峴山，然后我們再出城迎戰他們，這是最次的辦法了?！?/p>
慕容超不以為然地說：“他們遠道而來，疲憊不堪一定不能耽擱太久，我據守五個州的地域，擁有富庶的百姓，強大的騎兵，茁壯的莊稼遍布四野，怎么能割倒莊稼遷移百姓向別人示弱呢！依我看，應該放他們進入大峴山，再派精壯騎兵前去踐踏他們，何必擔心打不敗他們?！?/p>
輔國將軍慕容賀賴盧苦苦勸阻，慕容超也聽不進去。退朝后，慕容賀賴盧對公孫五樓說：“如果按照陛下的安排，亡國也沒有幾天了！”
太尉慕容鎮再次進去勸諫說：“陛下如果一定認為騎兵在平地作戰方便的話，就應該沖出峴山去迎戰敵人，即使在戰斗中不能取勝，也還可以退守，不應該放縱敵兵進入峴山，自己放棄險要的地勢?！蹦饺莩懿宦爮摹?/p>
慕容鎮退出來后說：“主上既不想主動迎戰，把敵人擊退，又不同意遷移居民，清肅原野，反而把敵人引進自己的腹地，坐在那里等待敵人的進攻圍困，這一點太像漢末的劉璋了。今年之內我們國家就要滅亡，我只有一死了?！?/p>
這話傳到慕容超耳中，他暴跳如雷，把慕容鎮抓起來送進了監獄，然后下令撤回莒城、梁父兩地的守軍，加固修筑都城廣固的防御工程，遴選將士和戰馬，等待東晉的軍隊到來。
劉裕大軍順利通過大峴山，南燕的軍隊一直沒有出現，劉裕舉起手來，指著上天，禁不住臉上露出喜色。左右侍從的人說：“您沒有看見敵人卻先高興起來，這是為什么？”
劉裕說：“大軍已過險關，軍隊沒有退路可走，因此一定會有拼死作戰的決心；余糧尚在田畝之中儲存，我們又沒有了缺乏糧食的憂慮，敵虜已經完全落入了我的手中?！?/p>
六月十二日，劉裕大軍抵達東莞（今山東沂水），慕容超先派遣公孫五樓、慕容賀賴盧及段暉統領步騎共五萬人屯據在臨朐，聽說東晉兵馬已經通過峴山，便親自帶領步騎四萬人前去迎戰，并派公孫五樓率領騎兵開進巨蔑水據守。
東晉的前鋒孟龍符與南燕軍隊展開激戰，打敗了他們，公孫五樓敗退而走。劉裕用四千乘軍車作為左右的屏障，排成方陣緩緩向前推進，在臨朐以南的地方與南燕軍隊進行會戰。
太陽漸漸下山，雙方還沒有分出勝負。參軍胡藩對劉裕說：“燕軍傾巢而出，與我們作戰，臨朐城中的守軍一定很少，我愿意帶領一支出敵不意的部隊從小路去奪取這座城池，這是當年韓信擊敗趙國的辦法。”
劉裕于是派遣胡藩以及檀韶、向彌暗自帶兵繞到南燕軍隊的后面，進攻臨朐，號稱是輕裝部隊從海路直接趕來增援的。向彌身披鎧甲，首先登上城墻，于是臨朐被攻破。
慕容超聽說后，大吃一驚，單人匹馬從城中逃出，趕到城南去投奔段暉。劉裕乘勢催動大軍奮力戰斗，南燕軍隊大敗，斬殺了段暉等十多員大將，慕容超逃回都城廣固城，晉兵繳獲了他的玉璽、車輦以及掛在車后的豹尾等物資。
劉裕乘勝追擊，直到廣固，又攻克了廣固外圍的外城，慕容超聚集眾人進入內城據守。劉裕筑造長墻圍困他們，墻高三丈，挖了三道地溝，他又好言撫慰接納投降歸附的人士，選拔賢才俊杰，不管是漢人還是夷人，都很高興。并且，晉軍因為奪取了這里儲存的糧食，便把從長江、淮河水路運輸軍糧的工作也全部停止了。
慕容超派遣尚書郎張綱向后秦請求救兵，又赦免了慕容鎮，把他請來相見，并謝了罪，請問他還有什么好辦法。慕容鎮說：“百姓的心事、希望全部維系在您一個人身上，現在陛下親自指揮大部隊前去迎戰，結果是戰敗跑回，不但大臣們的心思難以統一，百姓也都喪失了勇氣。我聽說秦國自己也有內患沒有清除，恐怕沒有功夫分出兵力來解救別人。現在我們逃散的士兵回來的還有幾萬人，應該把國庫中的金銀布匹全部拿出來激勵他們，讓他們再去決一死戰。如果天命幫助我們，那么這一次一定能擊敗敵人；如果不這樣，那么即使是戰死了也是一件美事。這和關起門來坐在這里等死，不也還強出許多嗎？”
司徒慕容惠說：“不對，晉軍乘勝而來，氣勢正旺，比原來還要超出百倍，我們用剛剛慘敗的士兵去抵擋他們，不也是太難了嗎？秦國雖然與郝連勃勃互相僵持，爭斗不休，但是也不足以把這當成禍患。況且他們與王猛分別占據中原地區，彼此依傍，形勢就像唇齒一樣，怎么能夠不來救助我們呢？但是，不派出官職重要的大臣去，就請不來更多的援兵，尚書令韓范一直被秦國所重視，應該派他去請援軍?！蹦饺莩爮牧怂囊庖姡身n范出使秦國。
