南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

仙境清闲识者稀，几人来此学幽栖。
红泉瑶草春长在，流水桃花路弗迷。
丹气犹涵阶下井，遗踪难认壁间题。
只怜星石今无恙，夜夜寒光北斗齐。

猛虎被束缚，皮肉不相保。人生到错迕，天地亦草草。

古来割据何代无，可怜百万殉匹夫。渔阳突骑如风火，青州城门铁作枢。

丈夫好在识时务，座上赤龙公莫舞。沙海荒荒魂不归，莫说青州泪如雨。

病卧秋山秋已深，石泉松磴梦空寻。方嗟抱疟兼旬苦，又值轻霜九月侵。

蛩响暗凄初永夜，灯明悬映此时心。自怜近僻多堪笑，癯极支颐尚苦吟。