小平津关建于邙山北麓山口中断处，牢牢卡住了从平津渡口至雒阳的要道，整座关楼宽十二丈，高九丈，俯瞰关楼外宽阔的平津渡口滩地，两侧是高山，高山之上还有箭塔，可谓易守难攻。

关楼之内，则是长达三四里的谷地，建有练兵的校场、营房、膳堂和一些防御工事，小平津的守军便驻扎在这里。

这一带也是平县的北乡，散居着百姓，因为靠近渡口，还有不少客舍、馆驿和店铺，供渡口来往的行人吃饭和休息。