王導(dǎo)平日性情寬和，他為政的基礎(chǔ)就是收攬北方士族做骨干，聯(lián)絡(luò)南方士族做輔助，而在北方士族和南方士族之間，王氏和司馬氏之間一直都存在著矛盾，他一生的事業(yè)就是在調(diào)劑各方面的矛盾，使朝廷處于相對(duì)平衡的狀態(tài)。
公元339年，終年六十四歲的王導(dǎo)病逝，臨終前向司馬衍推薦了何充。王導(dǎo)去世后，朝廷授予何充吏部尚書的職位，又征召庾亮擔(dān)任丞相，庾亮固辭不受，于是任命庾亮的弟弟庾冰任中書監(jiān)，參錄尚書事。
庾冰受到朝野寄予的厚望，熱血沸騰，上任后處理政務(wù)不分晝夜，對(duì)朝臣彬彬有禮，提拔后進(jìn)，因此朝野人士都不絕于口地稱贊他是賢相。
王導(dǎo)輔政時(shí)，往往采取寬恕的態(tài)度，庾冰則時(shí)常依靠威嚴(yán)的刑罰，殷融勸諫他，庾冰說(shuō)：“以前憑王丞相的賢良，尚且不能勝任寬弘，何況像我這樣的人呢！”
庾冰又審查核實(shí)戶口，清理出沒(méi)有姓名的人一萬(wàn)多名，用以充實(shí)軍隊(duì)。他喜歡檢查糾錯(cuò)，做事過(guò)于瑣碎，后來(lái)又矯枉過(guò)正，寬松縱容，更加遠(yuǎn)離正道，處理事情寬松或是嚴(yán)厲，全是出自他的心情，因此律令便沒(méi)有用了。
文成公郗鑒病重，上疏請(qǐng)求卸職，并推薦太常蔡謨接任他的職位，于是在郗鑒去世后，蔡謨被任命為征北將軍。
左衛(wèi)將軍陳光請(qǐng)求討伐后趙，司馬衍下詔派陳光進(jìn)攻壽陽(yáng)，蔡謨一向謹(jǐn)慎，他上疏說(shuō)：“壽陽(yáng)城小但是堅(jiān)固，從壽陽(yáng)到瑯琊，城墻之間互相都可以看見(jiàn)，一個(gè)城池被攻擊，消息很快就能傳播很久，敵賊的郵驛，以一日千里的速度傳遞消息，那么他們?cè)邳S河以北的騎兵完全可以趕來(lái)救援。以白起、韓信、項(xiàng)羽那樣的勇將，還要挖斷橋梁、焚毀舟船來(lái)背水而戰(zhàn)。現(xiàn)在我們想把舟船停泊在水中備用，然后領(lǐng)兵前往敵城，前方面對(duì)強(qiáng)敵，回頭看見(jiàn)歸路，這正是兵法所戒的大忌。如果進(jìn)攻不能取勝，胡虜?shù)尿T兵又突然到達(dá)，那么像恒子當(dāng)年不知所為，而舟中被砍斷的手指多到可以捧起來(lái)的局面恐怕又要重演了。現(xiàn)在陳光統(tǒng)領(lǐng)的都是精兵，現(xiàn)在卻屯兵于堅(jiān)城之下，用國(guó)家的精銳攻擊敵人的下等城邑，若取勝得到的好處微不足道，若失敗則損失慘重，這恐怕不是周全的計(jì)策啊。”伐后趙之事這才停止。
當(dāng)初，陶侃鎮(zhèn)守武昌的時(shí)候，有人建議，在長(zhǎng)江北岸的邾城分兵駐守，陶侃每次都不答復(fù)，但總有人提及此事。陶侃于是率領(lǐng)將士渡江圍獵，然后分析給他們聽：“我之所以設(shè)置險(xiǎn)阻防御敵寇，正因?yàn)橛虚L(zhǎng)江而已，而邾城隔在長(zhǎng)江北岸，自身沒(méi)有可以依仗的天險(xiǎn)，外部又與夷族接壤，對(duì)夷人來(lái)說(shuō)利害關(guān)系更大，如果我們貪圖小利，夷人必定不能忍受，必定領(lǐng)兵前來(lái)侵犯，這是導(dǎo)致禍亂的根由啊！而不是抵御敵寇的好方法。況且吳國(guó)當(dāng)初戍守此城，動(dòng)用了三萬(wàn)兵眾，現(xiàn)在就算是派兵駐守，對(duì)江南來(lái)說(shuō)也沒(méi)有太大的好處，如果羯族有可乘之機(jī)，占據(jù)邾城又沒(méi)有什么太大的幫助。”眾將這才恍然大悟。
等到庾亮鎮(zhèn)守武昌的時(shí)候，終于還是派毛寶、樊峻守衛(wèi)邾城。后趙石虎非常憤怒，以夔安為大都督，率石鑒、石閔、李農(nóng)、張貉、李菟五位將軍及五萬(wàn)兵馬侵犯荊州和揚(yáng)州的北部邊境，另外派二萬(wàn)騎兵進(jìn)攻邾城。毛寶向庾亮求救，庾亮認(rèn)為邾城城池堅(jiān)固，沒(méi)有及時(shí)派兵。
結(jié)果，石閔在沔南打敗晉兵，殺死將軍蔡懷，夔安、李農(nóng)攻陷沔南，朱保在白石打敗晉兵，殺死鄭豹等五位將軍，張貉攻下了邾城，邾城戰(zhàn)死者達(dá)六千人，毛寶、樊峻突圍出逃，渡江時(shí)溺水而死。
夔安等乘勝前進(jìn)，義陽(yáng)將軍、太守等都投降了后趙，幸得竟陵太守李陽(yáng)抵擋住了后趙的攻勢(shì)，夔安這才退走，臨走時(shí)又擄掠了七千多戶民眾遷徙到幽州、冀州。
此時(shí)庾亮還在想將鎮(zhèn)守地點(diǎn)移到石城，聽說(shuō)邾城失陷，這才作罷，又給司馬衍上表謝罪，請(qǐng)求貶職三等，司馬衍沒(méi)有同意，讓他恢復(fù)原位。庾亮自從邾城失陷后，憂悶成疾，沒(méi)過(guò)多久就離開了人世。
庾亮去世后，司馬衍任命庾亮的弟弟庾翼接替了庾亮的職務(wù)，當(dāng)時(shí)人們懷疑庾翼年輕，不能繼承他兄長(zhǎng)庾亮的業(yè)績(jī)，庾翼是盡心治理，軍務(wù)和政務(wù)都很嚴(yán)明，數(shù)年之間，官府和私人倉(cāng)庫(kù)充實(shí)，眾人于是又都稱贊他的才能。
庾翼與王羲之一樣都能寫得一手好書法，他看到自己的兒子和侄子不學(xué)他的書法改學(xué)王羲之的書法，心中十分不滿，說(shuō)兒子與侄子不愛(ài)家雞愛(ài)野雞，要與王羲之比高低。這就是成語(yǔ)“家雞野鶩”的由來(lái)。
最初的時(shí)候，王羲之的書法確實(shí)不如庾翼，到后來(lái)才變得好了，他用章草回信給庾亮，庾翼看到后深深嘆服，于是寫信給王羲之說(shuō)：“我以前有張伯英的章草十張，南渡過(guò)江后顛沛流離，于是丟失了，常常感嘆好的書法作品永遠(yuǎn)消失了，現(xiàn)在看見(jiàn)足下回給我兄長(zhǎng)的信，我的精神才又充沛了，回復(fù)到以前的狀態(tài)。”
庾翼的哥哥庾懌送酒給江州刺史王允之，王允之覺(jué)得有毒，試著讓狗先喝了一點(diǎn)，那狗便立刻倒在地上死去了。王允之嚇得不輕，趕緊上表報(bào)告給司馬衍。司馬衍知道后怒不可遏地說(shuō)：“大舅舅已經(jīng)搞亂了天下，小舅舅也要學(xué)著來(lái)嗎？”庾懌知道后，驚恐不已，為了保全庾氏家族就喝毒藥自殺了。
這一年的五月，晉成帝司馬衍感到身體不適，六月的時(shí)候，病情就已經(jīng)很嚴(yán)重了，有人偽造尚書令，敕令皇宮門人不許宰相入內(nèi)，眾人都大驚失色，庾冰說(shuō)：“其中必定有詐。”一查果然如此。
司馬衍的兩個(gè)兒子司馬丕和司馬奕年幼，都還在襁褓之中，庾冰因?yàn)樽约盒值軋?zhí)掌朝政已久，怕皇帝換代之后，自己與皇帝親屬之間的關(guān)系愈加疏遠(yuǎn)，會(huì)被他人所乘，便勸說(shuō)司馬衍國(guó)家外有強(qiáng)敵，應(yīng)當(dāng)冊(cè)立年紀(jì)大的君王，并請(qǐng)求讓司馬衍的同母弟弟，瑯琊王司馬岳為皇位繼承人，司馬衍同意了。
中書令何充說(shuō)：“皇位父子相傳，這是先王確立的舊制，改變舊制很少有不導(dǎo)致禍亂的，所以周武王不把天子之位傳給圣賢的兄弟周公，并不是因?yàn)椴粣?ài)他，而是遵循大義。從前漢景帝也打算傳位給其弟梁王，百官都認(rèn)為毀亂典章制度，不能接受。現(xiàn)在如果讓瑯琊王即位，拿兩個(gè)年幼的孩子怎么辦？國(guó)家社稷，災(zāi)禍將至！”
庾冰不肯聽，晉成帝下詔，讓司馬岳為皇位繼承人，讓自己的兒子司馬奕繼承瑯琊王的封號(hào)，庾冰、何充等人輔佐國(guó)主，兩天后，司馬衍就駕崩了，年僅二十一歲。
