东方青龙：角木蛟邓禹亢金龙吴汉氐土貉贾复房日兔耿弇心月狐寇恂尾火虎岑彭箕水豹冯异
北方玄武：斗木獬朱祐牛金牛祭遵女土蝠景丹虚日鼠盖延危月燕坚镡室火猪耿纯壁水貐臧宫
西方白虎：奎木狼马武娄金狗刘隆胃土雉马成昴日鸡王梁毕月乌陈俊觜火猴傅俊参水猿杜茂
南方朱雀：井木犴铫期鬼金羊王霸柳土獐任光星日马李忠张月鹿万脩翼火蛇邳彤轸水蚓刘植
刘秀昆阳大捷后路过颍阳，祭遵多次去拜见，刘秀看他长得玉树临风就留下他作为自己的亲随。祭遵也没把自己当外人，刘秀有个亲近的家奴犯了法，正好归祭遵管理，他就二话没说按律法把家奴给杀了。刘秀非常非常生气，要把祭遵抓起来，这个时候主薄陈副出来劝解：“明公您要是想整顿军纪，只有靠祭遵这样的人才行啊，这不正好是树立好的榜样的时候么。”刘秀何许人也，一下子就开窍了，不仅没有抓祭遵，还提拔祭遵做“刺奸将军”，告诉诸将：“各位可小心点，祭遵连我的亲信都敢杀，对你们可不会徇私枉法的，都好好做事吧。”诸将由此做事都谨慎多了。‘’
建武二年春，拜祭遵为征虏将军，颍阳侯。跟随骠骑大将军景丹、建义大将军朱佑、等人攻打弘农、厌新、柏华等大概十几万人的盲流。祭遵冲锋在前中了弩箭，伤口流血不止，众人看到祭遵受伤，都想退军，祭遵大叫：“为什么退军，哪个敢退军老子一定杀了他，不许退”，士卒都加倍苦战，于是大破贼兵。
建武三年春，祭遵攻打盲流张满，并把张满抓获，要杀头的时候张满说：“我造反是因为有个相士说我能当皇帝，还给了我一块石头，说里面包着玉，玉上就写了我要做皇帝的谶语，你看我腰间的这石头。”祭遵看他还贼心不死，命人把石头砸个稀巴烂，里面根本没有什么玉。张满仰天长叹：“谶语误我啊，哎，将军帮我把石头砸烂，我死而明目了。”于是引颈待戮，被灭族。
建武四年又抓住了叛贼张丰，攻灭了彭宠。建武六年多次打败刘秀强有力的对手隗嚣。
建武九年春，不幸在军中去世。祭遵灵柩到河南县，光武帝刘秀派遣百官先到治丧场所会齐，皇帝身着白色丧服驾临，望着灵柩哭泣哀恸。回来经城门，看到丧车，涕泣不能自已。丧礼成，又亲自以太牢之礼祭祀，如宣帝办霍光丧事一样。诏大长秋、谒者、河南尹护丧事，大司农负责费用。等到安葬，帝车驾再亲临，赠以将军、侯的印绶，用漆红了轮子的车子装着，让武士们排成军阵送葬，谥封为成侯。安葬完毕，光武再次亲临其坟，妥为安置其夫人家室，这是在所有将领中是绝无仅有的殊荣。
