李密领导的瓦岗军或许算是农民起义，但是作为农民军领袖的李密却不是农民，而且还是出生极好的贵族，然而在隋末的历史中还是有几个真正意义上的农民义军领袖。其中最为出色的就是窦建德和杜伏威了。
起义后的窦建德一直在自称“东海公”的高士达手下混，没有独立领军的机会。后来在大业十二年(616)十二月的时候，涿郡通守郭绚率兵万余人攻打高士达。高士达认为自己智略不及窦建德，便以窦建德为军司马，让其指挥作战。窦建德掌管兵权后，想树立自己的威信，便提议由高士达留下看守辎重，自率精兵七千人前去抵抗郭绚。窦建德假称和高士达不和前来投奔，郭绚却心怀疑虑。正值高士达也四处宣称窦建德背信弃义投降隋军，并将俘获来的一名妇女，当作窦建德的妻子，在军中杀掉。窦建德派人给郭绚递上降书，并说自己愿意作为先锋，带郭绚去攻打高士达。郭绚相信了窦建德，率兵至长河界地与他相会，共图高士达。郭绚部遂放松了对窦建德的戒备，窦建德抓住战机，发起突然袭击，大破郭绚军，杀略数千人，获马千余匹，并将逃跑的郭绚斩首。

自此，窦建德所率义军兵威大振。郭绚兵败后，杨广又派太仆卿杨义臣率兵万余前来围剿起义军。杨义臣于清河先歼灭了张金称的部队，由于杨义臣将所俘义军全部杀死，以至无人愿降，一些溃散在草泽中的残部相继投奔窦建德。杨义臣乘胜至平原，准备进入高鸡泊讨伐高士达部。窦建德见隋军士气正盛，便对高士达说：“历观隋将，善用兵者，唯义臣耳。新破金称，远来袭我。其锋不可当。请引兵避之，令其欲战不得，空延岁月，将士疲倦，乘便袭击，可有大功。今与争锋，恐公不能敌也”。但高士达却不采纳窦建德的避敌锋芒、以逸待劳、伺机破敌这个正确意见，留窦建德守营，亲自率精兵主动出击，初获小胜。便纵酒高宴，有轻杨义臣之心。窦建德闻讯后，说：“东海公未能破贼而自矜大，此祸至不久矣。隋兵乘胜。必长驱至此，人心惊骇，吾恐不全”。自率精锐百余人把守险要，以防高士达之败。结果，不过5天，高士达便被杨义臣所杀。杨义臣乘势追击窦建德。欲将窦建德所部全歼。追至北薄垒，守兵闻高士达败，皆溃败。窦建德寡不敌众，不能再战。只得率百余人突围而去。窦建德撤至饶阳，见饶阳守军没有防备，遂攻占饶阳。杨义臣见高士达已死，并没有将当时不出名的窦建德放在心上，领兵而回。窦建德遂得以回到平原，在此收编余部，抚循士众，多数人表示愿意跟随窦建德。同时窦建德在此又得3000余兵。实力有所增强。接着又招集亡卒，得数千人，军威得以重振。窦建德开始自称将军。起初，义军见到隋官及士人一律杀掉，唯有窦建德注意争取这些一般官吏，所以隋郡县的许多官员都主动归附。窦建德军很快发展到10余万人。

大业十三年(617年)正月，窦建德在河间郡乐寿(河北献县)筑坛，自立为长乐王，年号丁丑，开始设置百官，分治郡县。窦建德率兵攻占信都(河北冀县)、清河诸郡，并俘斩隋将杨善会于清河。七月，杨广为解瓦岗军急攻东都之围，命左御卫大将军涿郡留守薛世雄领3万幽、蓟精兵南下，会同王世充等驰援洛阳，“所过盗贼，随便诛剪”，王世充等诸将皆受薛世雄节度。薛世雄部队进占七里井准备进攻刚刚在乐寿称王的窦建德。当时，窦建德军在乐寿周围各县分散收麦。窦建德本人在武强征粮，闻薛世雄带兵前来，遂撤出诸城，扬言还回豆子航，以麻痹敌人。薛世雄以为义军怕自己，放松了警惕和戒备。窦建德距薛世雄营寨140里，亲自率敢死队千余人先行，命令后续部队跟进于后，星夜奔袭薛世雄。翌日凌晨，窦建德进抵薛营前，正巧大雾迷漫，咫尺莫辨。突然发起冲击，薛世雄士卒大乱，纷纷离帐逃命，自相践踏，不可收拾。薛世雄率亲兵数十骑逃归涿郡，惭恙发病，未几而卒。窦建德乘胜进攻河间城，围困城池，却屡战不克。

大业十四年(618年)正月时，他与朱粲、孟海公、徐圆朗等各路义军首领一起派使者让瓦岗的李密称帝。虽然李密没有同意，但李密却没放松对各路义军的拉拢。二月，李密便派房彦藻、郑颋等东出黎阳，分道招慰州县。窦建德知道这是李密想兼并各路义军，但鉴于实力尚弱，便借口北部罗艺南侵为由拒绝了李密。为了不让李密生疑，窦建德亲自写了回信，对房彦藻还卑辞厚礼相待。

另一人杜伏威，齐州章丘人。少时落拓不羁，不事生产，家境极为贫困。他与临济人辅公祏为刎颈之交。辅公祏姑家以牧羊为业，辅公祏屡次暗地送羊给伏威。辅公祏姑家因此举报他们偷盗的事，官府缉捕很急，伏威与公祏便逃亡在外，聚众起义。这时伏威才十六岁。杜伏威是一个很勇敢的青年，每次战役，“出则居前，入则殿后”。所以部众都很佩服他，推他做首领。

当时山东王薄、左君行等首先起义于长白山。大业九年（613），杜伏威率众往投左君行，没有得到左君行的重视，便离开长白山南下，辗转到达淮南，自称将军。当时下邳有苗海潮部起义军，杜伏威派辅公祏前去对海潮说：“今同苦隋政，各兴大义，力分势弱，常恐见擒，何不合以为强，则不患隋军相制。若公能为主，吾当敬从，自揆不堪，可来听命，不则一战以决雄雌。”海潮不敢抗，便率众归附伏威。接着，江都留守派校尉宋颢领兵攻击伏威，伏威佯为败走，将隋军诱入芦苇丛中，顺风纵火，使陷入沼泽中的隋军全部烧死。海陵义军首领赵破陈听说杜伏威兵少，有些轻视他，派人要求伏威归顺过去。杜伏威叫辅公祏领兵在外待变，自己带了十来个人抬着牛酒去见赵破陈，破陈很高兴，把杜伏威请进营帐中，召集所有头领，纵酒高歌。杜伏威突然在席上杀死了赵破陈，在座的人惊慌不及，杜伏威又杀了几十个人，接着辅公祏的兵及时赶到，他们便把赵破陈的部众合并过来，共有几万人，势力更强了。

大业十一年，起义军李子通部一万来人，也从长白山到达淮南，和杜伏威部联合。伏威选军中壮士养为假子，凡三十余人，以王雄诞、阚稜最为强勇。不久，李子通谋杀杜伏威，派兵袭击他。杜伏威受了重伤，掉下马来，王雄诞背负他逃到芦苇丛中，收集散兵，重整旗鼓。隋将来整乘机进攻，黄花轮一战，杜伏威大败，又被重创。部将西门君仪的妻子王氏，勇而多力，背负伏威逃走。王雄诞率壮士十余人随行保卫，与隋兵力战，才得脱脸。兵败的杜伏威收集余兵得八千人，在盐城歼灭了隋将公孙上哲的军队。

大业十三年，南巡中的杨广派右御卫将军陈稜以精兵进攻杜伏威，时杜伏威屯*，率众抵御。陈稜闭壁不战，杜伏威就送他一身妇人衣服，称他为“陈姥”，以此激怒隋军。陈稜果然出战，杜伏威挥军奋击，冲进敌阵中，把隋军打得大败，陈稜狼狈逃跑了。

伏威乘胜破高邮，引兵渡淮，据有历阳，自称总管，以好友辅公祏为长史。分遣诸将掠取属县，江淮间义军纷纷归附。杜伏威常选敢死之士五千人，称为“上募”，待遇优厚，与同甘苦。每有攻战，使上募先击。战斗完了，查看背上受伤的就杀掉，因为这种人是“退而被击”的。所获资财，都赏给战士。士卒有战死的，把他的妻子殉葬，“故人自为战，所向无敌”。