纪小，学不了那么多知识。然而，他们不曾想到，七岁的张霸顿时反讥道：“我饶为之”，所以之后取字之时，便因此事和其家中辈分，取字“伯饶”。
当然，张霸不只是早慧，而且为官也很有能力，特别在识人上，其任会稽太守，上表录用郡人处士顾奉、公孙松等。顾奉后来做了颍川太守，公孙松做了司隶校尉，都很著名。其余有专业特长的，都被提拔录用。郡中人从此都争相磨砺志节，学习经书的上千数人，道路上都听见诵读声。
不过，张霸最令人称赞的就是他七十年老时，生病而死，临终前不希望厚葬，并且写遗书给儿子们道：“昔延州使齐，子死嬴、博，因坎路侧，遂以葬焉。今蜀道阻远，不宜归茔，可止此葬，足藏齿而已。务遵朽，副我本心。人生一世，但当畏敬于人，若不善加己，直为受之。”
这意思是说从前延州季子出使齐国，儿子死在赢、博之间，就在坎坷的路侧，埋葬在那里。现在蜀道阻远，不宜运归乡里，可埋在此处，够掩埋头牙齿就够了。务必遵照朽的原则，体现他的心愿。人生一世，应当受别人畏敬，如果不好好安排自己，简直自作自受。
之后，张霸的儿子们遵照父命，将他葬于河南梁县，就在那里安了家。而因为此信