吕虔有勇有谋，曹操在兖州时，任命他为从事，率领家丁驻守湖陆，后升任泰山太守，与夏侯渊共同镇压济南等地的黄巾军。

之后，吕虔被推举为秀才，并加任骑都尉，仍管辖泰山郡。

曹丕继任魏王后，加吕虔为裨将军，封益寿亭侯，后升任徐州刺史，并加任威虏将军。

曹叡继位后，改封吕虔为万年亭侯。

吕虔死后，其子吕翻世袭万年亭侯