他暂为门下吏，曾随刘秀落脚东南，是从龙群臣之一，但祭遵却不以武略见长，刘秀喜欢用他来执行军法，纵是舂陵子弟犯法，祭遵也冷面诛杀，毫不留情。刘秀遂任命他为刺奸将军，监督三军，等到正式称帝后，又提拔为廷尉。

这位祭廷尉一点不给傅俊面子，甚至连刘秀的伤疤也当面揭：“第五伦在淮北有大军十余万，去岁隆冬，陛下亲将数万将士，与之周旋，尚不能破贼，今傅俊奈何以三万众横行北徐州？此乃面欺！大战方罢，陛下