乾德二年十一月，赵匡胤下令从东、北两个方向对占据川蜀的后蜀王朝发动攻击。仅仅用了两个多月时间便击溃了后蜀军队的抵抗，后蜀皇帝孟昶开城投降，后蜀灭亡。
开宝三年九月，赵匡胤下令北宋军队从湖南出兵，讨伐占据两广的南汉王朝。短短的四个月时间，宋军便一路深入南汉境内，兵临南汉都城广州。开宝四年二月，南汉后主刘伥开城投降，南汉王朝灭亡。
仅剩南方的南唐、吴越、平海军，以及北方的北汉尚在割据，陈洪进内心十分不安，谦逊恭敬地向宋王朝进贡丰厚礼品，以维持自己在平海军的统治。
而军事最为强大的南唐国，自李煜继位以来，南唐的综合国力日益衰落，但武昌节度使林仁肇仍主动向李煜献上收复淮南的计策。淮南一带爆发李重进叛乱后，赵匡胤曾经把淮南的大量兵力调离，使得淮南一带的防御比较薄弱。林仁肇便不断上表李煜，要求带兵北伐，收复淮南失地。
为了不连累李煜，林仁肇想了一个万全之策，让自己假装率兵发动叛乱，然后攻打淮南，如果攻打淮南成功，那么整个淮南便会重新回到南唐手中，如果攻打淮南失败，那么李煜便可以谋反之罪处死林仁肇。李煜吓得根本不敢答应，唯恐会牵连自己。
赵匡胤得知了林仁肇的计划之后，对林仁肇十分痛恨和忌惮，决定采取策略干掉林仁肇。赵匡胤通过贿赂林仁肇的左右随从，得到了林仁肇的画像，并悬挂于一间空的公馆内。
开宝五年二月，李煜派遣弟弟李从善率使团出使宋国，赵匡胤便带领李从善等南唐官员对悬挂林仁肇画像的公馆进行参观。当大家惊讶地看到林仁肇的画像时，赵匡胤连忙解释，画像上的这位名叫林仁肇，这个公馆就是赏赐给他的。使团回国后，将此事回禀李煜，李煜开始对林仁肇产生猜忌，最终杀害了林仁肇。
借李煜之手干掉了林仁肇，赵匡胤很满意，于是决定先礼后兵，诏谕李煜入朝见面。但李煜却以各种理由百般推脱，就是不肯前去开封。
赵匡胤沿用后周大臣王朴制定的《平边策》的统一战略，已经完成了一半，下一步就要拿李煜开刀了。虽然李煜待自己如父，但赵匡胤不是耶律德光，耶律德光鼠目寸光好打发，赵匡胤要的是统一，而不是李煜的谦卑。其实即使李煜敢对赵匡胤耍横的，他也没这个条件。
此时南唐只占有长江以南中下游地区和江西，北、西、南三面有宋朝大军虎视眈眈，东面有向宋称臣的吴越和泉州，四面受敌。虽然李煜在位时间和三国吴后主孙皓很相似，但孙皓至少还保有大半江南，李煜就这巴掌大的地方，加上宋朝强大的实力，换谁也没办法。
李煜当政十多年来，对外屈膝，对内享受，刚即位时对老百姓的那点“关爱”早飞到爪哇国去了。朝中在职的多是些尸位素餐的“文学家”，国事已经不可逆转。内史舍人潘佑对此痛心疾首，上疏大骂李煜：“过去夏桀殷纣吴孙皓自取灭亡，为史所笑。现在陛下还不如他们，臣不愿和朝中那些畜牲共事，更不愿意侍奉陛下这个亡国昏君！”
李煜见疏大怒，中书舍人和潘佑不和，在李煜面前煽火，李煜派人去拿潘佑。潘佑早知道自己不会有好果子吃，痛哭一场，然后自刎身亡。潘佑那道奏疏中把皇帝和大臣全都臭骂了，但唯独认为司农卿李平有才可以大用，希望李煜能让李平当尚书令。众人被潘佑骂急了，见潘佑死了，就把怒火射向了李平，纷纷在李煜面前抵毁李平，说李平和潘佑结党营私，李煜便把李平投到狱中，李平不久也死在狱中。
开宝六年四月，赵匡胤派翰林学士卢多逊以贺寿为名出使金陵，探探江南形势。卢多逊为人“狡黠”，先耍出手段糊弄李煜，说什么只要李煜好好侍奉大宋便相安无事。李煜居然信他这个，卢多逊回去前，骗李煜说：“我朝天子准备重修天下图志，但现在就缺贵邦十九州的资料，烦请国主方便则个。”
李煜没经大脑考虑卢多逊要干什么，便同意了，将境内所辖十九州的户籍资料甚至军队分布图都给了卢多逊。卢多逊心中笑骂：“李煜真是个白痴！”回到汴梁，卢多逊极力怂恿赵匡胤出兵江南，并把弄到手的机密资料交给赵匡胤。赵匡胤这个高兴啊，有了这个东西，李煜纵是插翅也难逃出他的掌心！
开宝七年七月，南唐有一个叫樊若水的书生前来投奔赵匡胤。樊若水本来也想为李煜做事，可考了几回试，全都名落孙山了。樊若水不甘心大好年华就这样浪费掉了，干脆跑到长江边上打着“休闲钓鱼”的幌子架着小船在长江沿岸来回丈量，把沿岸水势深浅画成了一张《长江沿岸水势图》，做为见面礼献给了赵匡胤。
开宝七年九月，下诏山南东道节度使潘美、颖州团练使曹翰、侍卫马步军都虞候刘遇从江陵出水师沿江东下，义成军节度使曹彬、侍卫马军都虞候李汉琼等人麾师南进。同时命令吴越王钱俶出兵从东线攻击南唐的常州和润州，牵扯南唐主力。李煜还在幻想只要出点钱就能让赵匡胤收手，派八弟江国公李从镒带着白金二十万两、锦帛二十万匹前去讲和。
还没等到李从镒的好消息，李煜就知道宋军已经攻破池州长趋直进的军报，李煜真的急了，知道赵匡胤这次要玩真的。李煜血性涌上心头，决定和赵匡胤彻底决裂，在国中废去开宝年号，调兵防御。李煜对臣下说道：“赵某人被逼急了，肯定要发兵来的，孤也不怕他，等宋师来战，孤自披甲执刃，督奖三军，和宋师死战，或许一胜，还能保全社稷。”
李煜同时给吴越王钱弘俶写了一封信：“兄弟，你跟着宋人瞎忙活什么？如果我被灭了，还有你什么好果子吃？唇亡齿寒的道理你懂不懂？”钱弘俶比李煜想的长远：反正自己早晚也要去汴梁，不如现在多在赵匡胤面上立点功，以后能在赵匡胤那里讨价还价。不听李煜的，继续北上攻城。
宋军曹彬、李汉琼部长趋进进，在采石矶大败南唐军，俘虏南唐兵马都监孙震，南唐军主力两万余人被全歼，宋军得到南唐军马三百多匹，宋军仔细一看，狂笑不已，原来这些战马都是赵匡胤送给李煜的。
赵匡胤得了便宜就卖乖，让曹彬等人在采石矶上建造浮梁桥，准备过江。李煜不相信，问中书舍人张洎是不是真有这事？张洎也不相信，便说：“从来没听说过长江能建浮梁的，肯定是军中讹言，陛下不必害怕。”
宋开宝八年十月，南唐洪州节度使朱令赟率南唐最后的精锐前来摧毁采石矶浮梁，朱令赟放火烧浮梁，没想到老天不老眼，南风变北风，烧死南唐军无数，朱令赟也死在大火中。李煜和赵匡胤对抗的本钱本就不多，采石一败，金陵就直接暴露在宋军的攻击范围之内。
李煜听说赵匡胤为人比较宽厚，便想给赵匡胤认个错。希望赵皇帝能收兵回去，李煜继续当“儿皇帝”，派国中文人翘楚的吏部尚书徐铉去汴梁哀求赵匡胤罢兵。
徐铉风餐露宿赶到汴梁，见着赵匡胤，伏地哭求赵匡胤看在一下李煜十五年来屈膝侍奉大国的份上，给李家留条血脉。赵匡胤不同意。徐铉急了，大声质问赵匡胤：“李煜何罪？！陛下如此逼人？！”
赵匡胤看了一眼徐铉，冷笑：“是！李煜侍朕如父，本来无罪。但现在天下即将一统，李煜仍割据江东，朕为天下百姓计，必须要过江。何况，卧榻之侧，岂容他人酣睡！”