张聪贤不媚权势，初入翰林时，因为书法卓越，被成亲王永瑆所器重，可张聪贤却不愿私交宗室。成亲王差人游说，希望将他招致门下，被婉拒了；邀请他做书友，又被拒绝了；最后奉上纸张，想求其墨宝，还是没能如愿。

做了三年庶吉士，张聪贤被外放陕西做知县。他做了十几年地方官，从来不做听戏、饮酒等游嬉之事，唯一关心的就是振兴民风、兴利除弊。长安县志自从康熙年间编过，已失修百余年。张聪贤生怕今后地方文史无从考证、嘉言懿行日久湮没，便毅然以续修为己任，捐出俸银，招揽学问渊博之士，成立专班，四处采访，历时四年才修成。对于入志的孝义之家，他又分发匾额，以示褒扬。

张聪贤的重要贡献更在于兴修水利。长安县有条苍龙河（即新河，明代以前叫洵河，发源于今鄠邑区韩旗寨，是长安区与鄠邑区的分界河），年久淤塞，入秋就会发生洪涝，上游修堤，下游就更易遭受水患。老百姓不仅遭受洪灾，还被诉讼闹个不得安宁。张聪贤亲赴实地考察，劝说各段百姓开挖河道，将淤泥堆高堤岸。对于人烟稀少的河段，他就捐资请人疏浚。经过一年整治，洪灾平息了。他又担心天长日久，故态复萌，便制定章程，刻石立碑，要求每年三月各处务必清淤，挖掘水道，培筑河堤，永不阻滞。老百姓感念他的恩德，将苍龙河改名为“张公河”。

张聪贤既是能吏，也是清官。他在潼关当官时，有位商人稔熟公务，很得张聪贤赏识，常常来衙门交谈。有次，张聪贤长子张延龄要北上参加乡试，商人怀揣数百两银票，准备送作路费。不巧撞见张聪贤，犹豫着不敢进门。张聪贤发觉隐情，勃然大怒，叱责道：“我一直认为你是老实人，可你却把我看成何等人？”于是，商人被逐出，再没机会登门了。

吏不畏吾严，而畏吾廉；民不服吾能，而服吾公；公则民不敢慢，廉则吏不敢欺。公生明，廉生威。

——张聪贤《官箴》