起家拜郎官。后成为董卓部将。董卓死后，先后依附于李傕、郭汜、段煨、张绣，两次献计打败曹操。

建安四年，随张绣归降曹操。官渡之战时，力主决战。在赤壁之战前，主张先安楚地，后图江东，没有得到采纳。

曹操与关中联军相持渭南时，献上离间计瓦解马超、韩遂，一举平定关中。在曹操继承人的确定上，以袁绍、刘表为例，暗示曹操不可废长立幼，支持曹丕成为世子。

黄初元年，曹丕称帝后，拜太尉