南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

峨峨西湖山，灵秀入空碧。萝阴转累磴，松色渍幽石。

微霞生绝陉，飞溜洒攲壁。鹤鸣岩光动，花落云影拆。

危椒登古坛，百年此一息。声影混大荒，不见兴灭迹。

刚风三天寒，元气万里色。怅望仙子期，凝神抚玄极。

独舸狂风夕，倾摧可具论。天应骄飓母，吾拟混鲛人。

孤孽千行泪，艰危九死身。老龙应有意，吟伴到鸡晨。

世事桑沧一局棋，飘然相顾亦堪悲。翱翔才信乾坤阔，来去何嫌岁月迟。

鸥鹭有情同浩荡，凤鸾无意偶追随。数声纵许人间听，流水行云两不知。