组织山贼，与他的生死兄弟辅国祏率众起义，随后投奔了实力较为雄厚的起义军左才相部，虽然作战勇猛，但并没有得到左才相的提拔。

大业十年，左才相部遭到隋军名将张须陀、来护儿大军围剿。杜伏威审时度势，率众转战至江淮一带。

转战江淮一带后，杜伏威先后吞并了苗海潮、赵破阵等起义军所部，势力大增，屯并六合，威胁江都。又接连击败隋将宋颢、公孙上哲、陈棱等，在淮南历阳自称总管，以辅公祏为长史，又