南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

谁识往来意，孤云长自闲。风寒未渡水，日暮更看山。
木落众峰出，龙宫苍翠间。

天回地转事不同，鄂州行为天下冲。势如奔蛇脊先起，谁欤见者抱冰翁。

见之非难谋岂易，一世沈沈在梦寐。下手惊看国手棋，杀意未呈机已备。

登山支颐久端相，城东渺渺连湖光。决湖捍江出平陆，何时事成众方觉。

金口桃花青山柳，百里驱车一回首。湖水入江更不回，胆落江神避髯叟。

十年前后试商量，北燕南粤归吾堂。要令土与金同价，那得高原可种桑。

我行自凛秋。季冬乃来归。
置酒高堂上。友朋集光辉。
念当复离别。涉路险且夷。
思虑益惆怅。泪下沾裳衣。