南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

八十诗翁想出尘，此君长与驻青春。金华琐碎閒垂地，安用侯封况渭滨。

六年逢此月，五年照离别。歌君别时曲，满座为凄咽。

留都信繁丽，此会岂轻掷。镕银百顷湖，挂镜千寻阙。

三更歌吹罢，人影乱清樾。归来北堂下，寒光翻露叶。

唤酒与妇饮，念我向儿说。岂知衰病后，空盏对梨栗。

但见古河东，荞麦花铺雪。欲和去年曲，复恐心断绝。

碧瓦朱门将相居，见嵩临洛百家无。
登高此地还能赋，会老他年定入图。
花发四时排步障，鸟鸣终日劝提壶。
何人遇赏偏留赏，逸士清风激鄙夫。