南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

六十流光早识春，春风只恋鬓华新。乘时燕雁知来去，启蛰龙蛇自屈伸。

学稼何年为得岁，种瓜无地可称秦。偶然把钓非期获，自照须眉向水滨。

月杵霜砧，觉风送、声来庭树。方夜坐、一偏低首，烛花新吐。

迢递云中劳驿使，殷勤天低传鱼素。乍开笺、细细读从头，更三鼓。

珠玑字，琅玕句。抵多少，离情绪。叹天涯霜鬓，一般荼苦。

君有琼贻音入妙，我惭瓦奏心先许。算闺中、知己泪尤多，纷如雨。

若陈见面太悬殊，云水重新诳惑渠。
谩说当时曾省悟，却将鱼目当明珠。