南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

大谷固绝品，鹅梨亦遗味。名园见似人，神皋花溅泪。

　　陆庄风景又萧条，堪叹还堪笑。世事茫茫更谁料，访鱼樵。后庭玉树当时调，
可怜商女，不知亡国，吹向紫鸾箫。
　　一江秋水淡寒烟，水影明如练。眼底离愁数行雁，雪晴天。绿红蓼参差见，
吴歌荡桨，一声哀怨，惊起白鸥眠。
　　五湖烟水未归身，天地双篷鬓。白酒新ド会邻近，主酬宾。百年世事兴亡运，
青山数家，渔舟一叶，聊且避风尘。

石罅久潜龙，泉鸣古刹东。秋灯林影外，夜梵磬声中。

纵醉同陶令，谈经忆远公。题诗旧尘壁，休用碧纱笼。