怀玉之功，之前天子让百官举荐贤良，武怀玉的举荐名单里就有张朴张玄素。

那时他还是景城都督录事参军，李世民召他入朝问对，一番奏对很是满意，直接提升为六品的侍御史。

如今御史台四名侍御史中，他倒还算是资历较老的。

之前几位侍御史如马周等都先后调走了，如马周升为给事中如今再迁中书舍人。

武怀玉和萧瑀高季辅都打算让张玄素主持台院，知台院事，也可称为台端，如今台院主要