南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

五岭新寒浅，三更见月孤。皇华虽在越，莼菜已思吴。

高宴歌吟洽，炎方景物殊。金台宵自击，火马夜能驱。

吐焰千花乱，穿杨万叶枯。巧思难尽测，妙绘莫为图。

幸备梁园赋，犹然幕府趋。偃师呈傀儡，西域献都卢。

清晏承边计，雍容想远谟。人同陆贾使，地异老夫娱。

庾亮南楼兴，曹参相舍呼。疏狂惭授简，不恸阮生途。

紫燕评春语画梁，黄鹂搀啭垂杨。
博山烟冷书窗静，风飐瓶花点砚香。

相过成率尔，话别转逡巡。持此一杯酒，翻怜万里人。

山中多芋栗，海上足鲈莼。不厌南游苦，重来问隐沦。