幼时便外出游学。拜在经学大师郑玄门下。

郑玄与恩师乃是好友，后又托恩师拜扶风鸿儒马融为师。两人即是好友又是同门。在马融门下学习七年，郑玄因父母年迈归养，便向马融辞行，返回山东故里。马融对弟子们说：“郑生今去，吾道东矣！”

学成回乡时，郑玄已年过四十。于百家之学，无所不通。成为一代经学大师。远近有数千人投到门下。郑玄与弟子“客耕东莱”，一边开荒自给，一边传道授业。建宁元年（168