天監十五年(北魏熙平元年,公元516年)正月,北魏崔亮等人久攻硤石城未果,就和李崇約定水陸並進。誰知李崇多次違反約定時間不來,致使戰機一再錯失。
北魏朝堂上,胡太后深知眾將不和會影響最終戰事,便委任吏部尚書李平為使持節、鎮軍大將軍兼尚書右僕射,率領步兵、騎兵二千人趕到壽陽,另立行台,指揮調遣各部隊。同時胡太后還准許李平如果有違抗不聽命令的人,便用軍法來制裁。
就在李平前往前線之際,蕭寶夤所部已經率先取得了一些戰果。蕭寶夤派輕軍將軍劉智文等人渡過淮河,攻破了梁軍三座營壘。二月乙巳日(初八),蕭寶夤又在淮河北岸打敗了梁軍垣孟孫等部。等到李平抵達硤石後,又督促李崇、崔亮等軍隊水陸並進,由於此時沒有人敢違背命令,北魏幾次作戰都取得了勝利。
南梁這邊也沒有坐以待斃,蕭衍派左衛將軍昌義之協同直閣將軍王神念、太僕卿魚弘文等溯淮河而上以援救硤石。為了抵禦南梁增援部隊,崔亮派遣將軍崔延伯駐守下蔡。崔延伯和副將伊瓮生沿着淮河兩岸紮營,命令把車輪的外周去掉,把輪輻削尖,每兩輛車對接在一起,用柔軟的竹子作成竹索,連貫並列起來,十多輛車並在一起,橫在水裡作為橋樑,兩頭設置大轆轤,使橋可以隨意出沒,不容易燒毀。如此一來既切斷了趙祖悅的逃路,又使南梁援軍的戰船不能通行,結果昌義之、王神念等人駐紮在梁城不能夠前進。隨後李平乘勢部署軍隊分水陸攻打硤石,攻克了外城。二月乙丑(二十八日),趙祖悅無奈出城投降,北魏方面直接將其斬殺,其餘眾人則成為了俘虜。
拿下硤石城後,北魏前線再度出現分歧。李平分派各將領從水旱兩路一同出發,準備一鼓作氣攻打浮山堰。誰知崔亮選擇違抗李平的命令,借口患病率軍撤還。餘下的魏軍雖然對浮山堰發起了攻擊,但被康絢與北徐州刺史劉思祖率兵擊退,北魏方面無可奈何只得選擇撤軍。
北魏大軍的撤退給到了康絢足夠的時間,當年四月浮山堰終於修成。此時的浮山堰長九里,下闊一百四十丈,上廣四十五丈,高二十丈,深十九丈五尺,十分雄偉壯闊。更有甚者堤上已經能種植杞柳、修築軍壘,軍士能在堤上駐兵守衛。為了確保浮山堰的安全,康絢又派人向東開鑿了一條泄洪道,並對魏軍施反間計,誘騙其鑿山開湫,引堰水北流。此舉不僅逼退了魏軍,還淹沒了沿淮的數百里土地,使北魏佔領下的壽陽城遭受洪水侵襲。
此時南梁方面再加把油,收復壽陽便不是夢想,誰想他們內部也出現了問題。徐州刺史張豹子忌妒康絢之功,又不願隸屬於其下,於是散播謠言誣陷康絢與北魏來往。蕭衍雖然不聽此言,但仍在修堰完畢後征康絢回朝。康絢離開後,張豹子便不再修堰,任由其損壞。結果當年九月,淮水暴漲沖毀了浮山堰,沿岸十多萬戶百姓遭受重創,蕭衍收復故土的努力再次白費。