东宁远卫。后因屡立功勋，不断升职，到万历年间祖大寿、祖大弼的父亲已然成为了李成梁身边的辽东副总兵，祖家在辽东也逐渐成为望族。

祖大弼幼读书，后从戎，崇祯四年满洲围困大凌河城，身为守备的祖大弼领百骑出城哨探，与满洲兵遇，破垒而归，因而闻名。次年，李九成、孔有德等叛于登莱，祖大弼等驰剿，复立功，以至于山东叛军有“所怕者唯关外兵”言。

及这两年，朝廷调辽兵援剿中原、西北群盗，