南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

两朝身与国安危，曲策哀荣此一时。
木稼尝闻达官怕，山颓果见哲人萎。
英姿爽气归图画，茂德元勋在鼎彝。
幕府少年今白发，伤心无路送露輀。

疲马单裘出郭门，绕堤得得又前村。官卑春草欺袍色，年长秋霜上鬓痕。

老仆携茶行踯躅，稚儿索果语温存。繁华易惹青年恨，风雪荒寒黯客魂。

璿台插中天，仙圣展游眺。
亭亭珠玕树，蒙日光照曜。
上有天乐鸣，嘈杂声要妙。
浮丘倚岩听，玉女排云笑。
茲游偿夙心，时闻八鸾啸。
搴茎茹金芝，援藟爱青峭。
琅琊失孤岫，渤海播圆峤。
抵掌嗤客星，石濑坐投钓。