天监十五年(北魏熙平元年,公元516年)正月,北魏崔亮等人久攻硖石城未果,就和李崇约定水陆并进。谁知李崇多次违反约定时间不来,致使战机一再错失。
北魏朝堂上,胡太后深知众将不和会影响最终战事,便委任吏部尚书李平为使持节、镇军大将军兼尚书右仆射,率领步兵、骑兵二千人赶到寿阳,另立行台,指挥调遣各部队。同时胡太后还准许李平如果有违抗不听命令的人,便用军法来制裁。
就在李平前往前线之际,萧宝夤所部已经率先取得了一些战果。萧宝夤派轻军将军刘智文等人渡过淮河,攻破了梁军三座营垒。二月乙巳日(初八),萧宝夤又在淮河北岸打败了梁军垣孟孙等部。等到李平抵达硖石后,又督促李崇、崔亮等军队水陆并进,由于此时没有人敢违背命令,北魏几次作战都取得了胜利。
南梁这边也没有坐以待毙,萧衍派左卫将军昌义之协同直阁将军王神念、太仆卿鱼弘文等溯淮河而上以援救硖石。为了抵御南梁增援部队,崔亮派遣将军崔延伯驻守下蔡。崔延伯和副将伊瓮生沿着淮河两岸扎营,命令把车轮的外周去掉,把轮辐削尖,每两辆车对接在一起,用柔软的竹子作成竹索,连贯并列起来,十多辆车并在一起,横在水里作为桥梁,两头设置大辘轳,使桥可以随意出没,不容易烧毁。如此一来既切断了赵祖悦的逃路,又使南梁援军的战船不能通行,结果昌义之、王神念等人驻扎在梁城不能够前进。随后李平乘势部署军队分水陆攻打硖石,攻克了外城。二月乙丑(二十八日),赵祖悦无奈出城投降,北魏方面直接将其斩杀,其余众人则成为了俘虏。
拿下硖石城后,北魏前线再度出现分歧。李平分派各将领从水旱两路一同出发,准备一鼓作气攻打浮山堰。谁知崔亮选择违抗李平的命令,借口患病率军撤还。余下的魏军虽然对浮山堰发起了攻击,但被康绚与北徐州刺史刘思祖率兵击退,北魏方面无可奈何只得选择撤军。
北魏大军的撤退给到了康绚足够的时间,当年四月浮山堰终于修成。此时的浮山堰长九里,下阔一百四十丈,上广四十五丈,高二十丈,深十九丈五尺,十分雄伟壮阔。更有甚者堤上已经能种植杞柳、修筑军垒,军士能在堤上驻兵守卫。为了确保浮山堰的安全,康绚又派人向东开凿了一条泄洪道,并对魏军施反间计,诱骗其凿山开湫,引堰水北流。此举不仅逼退了魏军,还淹没了沿淮的数百里土地,使北魏占领下的寿阳城遭受洪水侵袭。
此时南梁方面再加把油,收复寿阳便不是梦想,谁想他们内部也出现了问题。徐州刺史张豹子忌妒康绚之功,又不愿隶属于其下,于是散播谣言诬陷康绚与北魏来往。萧衍虽然不听此言,但仍在修堰完毕后征康绚回朝。康绚离开后,张豹子便不再修堰,任由其损坏。结果当年九月,淮水暴涨冲毁了浮山堰,沿岸十多万户百姓遭受重创,萧衍收复故土的努力再次白费。