南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

啼螀门静，落叶阶深，秋声又入吾庐。一枕新凉，西窗晚雨疏疏。旧香旧色换却，但满川、残柳荒蒲。茂陵远，任岁华苒苒，老尽相如。
昨夜西风初起，想莼边呼棹，橘后思书。短景凄然，残歌空叩铜壶。当时送行共约，雁归时、人赋归欤。雁归也，问人归、如雁也无。

铁窗诗价远，应是到鸡林。
修月有妙手，伴云无出心。
调高追郢曲，间古和虞琴。

镜里遥山，忆中云树。天涯约契烟深处。骊歌唱罢又重招，赢得倾城名士、拥兰桡。

候到松风，飘残研雨。一春长向花前语。纵教双鲤日通潮，争似玉骢还驻、小红桥。