城，文字始見于西周金文，城制最早現于春秋戰國，本意是城邑四周的防御墻垣，里面叫城，外面叫郭，引申為城池。徐水歷史最久、最為沖要、有跡可循的當數遂城。
志載：武王封召公奭于燕都易水，則徐水為古燕地，后遂建城，取名武遂（后稱遂城）。北臨瀑河（南易水下游），隔河為燕南長城。
《史記》卷三十四燕召公世家：“十二年(即燕王喜十二年，公元前243年)，趙李牧攻燕，拔武遂。”由此可知，遂城乃燕都一個外衛城池。史上戰事頗多，為兵家必爭之地。
北宋時，遂城為宋、遼界城。城外筑有堤防和護城河各3 道，四面城墻均1000米略長。據《宋史》記載，“咸平二年(999 年)冬，契丹蕭太后率兵南侵，宋將楊延昭時在遂城，城小無備，契丹攻之甚急。昭悉集城中壯丁登城持械護守。
時逢大寒，汲水灌城上，旦悉為冰，堅滑不可上，契丹潰退。”這就是有名的冰城之戰。
遂城西控雁門（山西雁門），東連雄霸（雄縣、霸州），遼始終未入，故有 “鐵遂城”“英雄城”美稱。六郎楊延昭戰功卓著，由保州（今保定）緣邊都巡檢使調升鄚州（今雄安新區鄚州）刺史。
公元1646年版《安肅縣志》采集八景入志，其中南岳宏宮、北極層觀、四望荒亭（六郎亭）、劉伶孤冢四景在遂城，可見其文化積淀深厚，人文景觀眾多。
遂城由于年代久遠，現在已無古城建構，只留少量城垣、堤防。在西南城角一帶，尚有殘存古城墻，高約10 米，寬30米，斷續數百米，與燕南長城一樣，都為筑土城墻。
1974年，在北城和南城地下3米發現兩處古戰道，寬3米，高2米，長度不詳。1986年文物普查中，在南城墻下發現一北朝單體墓葬，南二堤下發現漢墓群，西二堤下發現隋代墓。
