，号芷园，广东东莞人，自幼聪明，精通经文诗词书画，好击剑任侠。
此人是学霸，19岁考取秀才，为广州儒学生员。22岁乡试中举人，29岁（明崇祯十六年(1643)）中进士，授翰林院庶吉士。
翌年三月，农民起义军李自成部攻入北京，张家玉逃回广东，随即投靠了南明政权，在颜常武座下听用，入兵部为官，合乎他的心意。
颜常武并不反明，他手握大义名份，且东南府自过往起对两广、闽省和江浙地区影响力庞大，张家玉不象其他文官那样高姿态看不起颜常武这个海贼，他积极办差，随北伐军到了北京，又跟随甘辉到了沈阳，接着他加了兵部侍朗头衔，出使费阿拉山城。
“如果你们归降，则尽被赦免，你们三位大汗皆可用大明王礼葬之！你们的首任大汗原本也是大明的臣子嘛！”身处虎狼窝中，张家玉轻松地道。
“赫图阿拉城为你们大汗家族的汤沐邑，管治归你们自行其事，朝廷不派人参与。择一子孙封建州公，世袭罔替，即使有罪被追究，亦不绝其祀，可丹书铁券为凭。”张家玉的意思 是说某位建州公犯了事儿被追究，做不成建州公了，但不会因此撤销建州公的爵位，而是换另外一个人当建州公。