杨广从雁门郡直接南下前往江南，已经表明了自己要放弃北方，紧守江南的想法。这也刺激的北方的各个势力蠢蠢欲动，一时间北方的势力纷纷露出了自己的本来面目。
幽州总管罗艺率先举起义旗，借助为了东征高句丽而运来的大量军械物资攻略北方，一时之间没有能够阻挡他的人。与此同时高句丽人也发觉中原陷入混乱，有南下的意图，但是被罗艺率兵接连击溃数路军队后，便是放弃了南下的年头，此时恰逢室韦部击溃了东突厥的军队，掠取牛羊无数，当下便是再次专心继续谋划向西进攻东突厥。
鹰扬府校尉刘武周也率兵杀掉了马邑郡守，开仓放粮，自封为马邑郡新的太守，同时因为马邑郡前不久被突厥人袭扰，物资并不充裕，为了站稳脚跟，刘武周便是派遣了手下得力的说客前往东突厥的牙帐，来表明自己的心意，愿意尊东突厥的始毕可汗为主，年年进贡，岁岁称臣。
东突厥虽然在雁门郡下饮恨败北，但是实力尚存，只是此时人心浮动，才使得面对高句丽人作战不利，接连的溃退。但是要是面向昔日身为手下败将的汉人的话，还是有这些心理优势的，于是便是接受了刘武周的归附，派遣了军队援助刘武周作战。
有了一支突厥的生力军之后，刘武周便是设计了一个庞大而冒险的作战计划，他率领本部的汉人军队向南迎击虎贲将王智辩，故意踏进了王智辩设下的圈套之中，在桑乾镇被王智辩军团团围住。这个时候，突厥人的军队从王智辩军身后突然杀出，与刘武周里应外合的击溃了王智辩军，虎贲将王智辩也在乱阵中被杀，刘武周借助着胜利带来的高昂的气势，顺势击破了娄烦郡，俘获了大量遗留在汾阳宫的宫女。
在桑乾镇见识到了突厥人的战斗力以后，刘武周为了进一步讨好突厥人，亲自将俘获的宫女悉数都献给了突厥人，在牙帐拜始毕可汗为义父。这让始毕可汗大为的高兴，便将自己的坐骑战马送给了刘武周，又给了他一支护卫牙帐的精锐部队。借助着手中的突厥人战斗力凶悍无比，刘武周回师攻陷了定襄郡，彻底打通了与突厥人的联系。
有感于刘武周表现不错，又有些实力和头脑，更坚定了始毕可汗要扶持他作为突厥在中原的代理人的决心，于是册封刘武周为定杨可汗，取一个平定杨隋的好彩头，同时又给了他一杆狼头旗作为旗帜。
当然人不能将所有的鸡蛋都放在一个篮子里，始毕可汗精通汉文化，对这种事情自然也是十分的了解，于是在册封了刘武周的同时，找到了曾经身为鹰扬府郎将的梁师都，帮助他杀了朔方郡丞，举起义旗自封大丞相，随后与突厥人合并击溃了前来镇压的隋将张世隆，随后乘胜攻下了雕阴、弘化、延安等郡，随后在祭天埋玉的时候，于地下掘出一方印章，上面尽是一些难以辨认的先秦古篆，手下人都说这是祥瑞，上天以此印示人，劝说梁师都称帝。
于是梁师都禁不住手下人的劝说，登基称帝，建立梁国，建元：永隆，是为永隆元年。同年始毕可汗册封梁师都为大度毗伽可汗，也为解世天子。
河北窦建德也击溃了前来平定叛乱的涿郡通守郭绚率领的一万余名官兵，掠取战马无数，杀敌数千，更是亲自追出十几里，在平原县追上了仓皇逃窜的郭绚，斩下郭绚的头颅带回了高鸡泊，自此在高鸡泊的威势更胜。后来高仕达轻敌冒进，被杨义臣率军击败，自己也被杨义臣在乱军中所杀，杨义臣乘胜进攻兵力空虚的高鸡泊大营，窦建德驾驭不住不下的溃逃，便也只率领了百余人远远逃去。
后来杨义臣认为已经杀了叛军首领，剩下的流寇不足以成事，便率军退去了。这个时候窦建德又率领部下回到了战场上，为高仕达收敛了尸体，掩埋了战死义军的尸体，又命令手下军卒都穿起白色的丧服，逐渐的收拢溃逃的义军，再次发展到数千人的规模。哀兵必胜，同仇敌忾之下，义军接连击溃了几支前来镇压的隋军，又加上窦建德一向是宽宏仁爱，对于攻取下的城池中的隋官和当地的士绅从来都是以礼相待，这也使得更多的人开始投奔他，一时间河北各郡纷纷归附，窦建德得兵近十万，自称长乐王。
知世郎王薄与孟让率军与隋军在河北山东一带周旋，虽说屡次被张须陀击败，但是每次失败后都能很迅速的再次拉拢起来数万的人马，再次与官军作战。而且王薄虽说十个书生，但是每次作战都亲历前线，跟士卒一齐唱着《无向辽东浪死歌》向官军进攻。王薄手下的孟让更是勇猛无比，除去张须陀以外，尚且还没有能阻挡他的人。
薛举看到李文渊所说之事果不其然的出现了，心中也是大喜，在得知了杨广南下的消息以后，直接借着要镇压境内的流匪宗罗睺的理由，大肆的招募壮丁，随后在金城郡守郝瑷的送行酒宴上，扣押了郝瑷，声称要搜捕谋逆之人，顺势囚禁了郡县的官员。
薛举举事之后，宗罗睺依照约定率领着手下的流匪前来归附薛举，薛举投桃报李的封宗罗睺为义兴郡公，大肆的招募境内的流匪，劫掠官马。不久，岷山羌众的首领钟利俗也率领两万部众前来投奔薛举。薛举私下结交收留，平日里就在薛举家的演武场里的那些好汉们也是纷纷加入了薛举的军队。
李渊也在长安京师拥立代王杨侑，遥尊杨广为太上皇，在晋中大地上举事，自封为唐王。
一时间整个北方中国都陷入了战火纷飞之中，今天我带人击败了你，明天你带人又回来打散了我的军队，百姓流离失所，田野一片荒芜。这个时候一个流言在中原大地上流转开来：
西域王，不纳粮！