南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

料峭春寒恰未消，鹁鸪啼急水迢迢。半船微雨过枫桥。

荠菜绿平齐女墓，梨花雪压伍胥潮。柳枝和恨一条条。

溟藩轸帝忧，见说初鸣驺。德胜祸先戢，情闲思自流。
蚕殷桑柘空，廪实雀鼠稠。谏虎昔赐骏，安人将问牛。
曾陪后乘光，共逐平津游。旌旆拥追赏，歌钟催献酬。
音徽一寂寥，贵贱双沉浮。北郭乏中崖，东方称上头。
跻山望百城，目尽增遐愁。海逼日月近，天高星汉秋。
无阶异渐鸿，有志惭驯鸥。终期促孤棹，暂访天台幽。

读书知姓名，心死非貌敬。昭回不在小，中天揭西柄。

空山三木榻，绿满风雨径。岁寒毋忘我，细意匡山咏。