南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

戒杀当知有数端，闻声见死敢加餐。居家自作专因我，虽美还应下箸难。

磁石引长针，阳燧下炎烟。宫商声相和，心同自相亲。

我情与子合，亦如影追身。寝共织成被，絮用同功绵。

暑摇比翼扇，寒坐并肩毡。子笑我必哂，子戚我无欢。

来与子共迹，去与子同尘。齐彼蛩蛩兽，举动不相捐。

惟愿长无别，合形作一身。生有同室好，死成并棺民。

徐氏自言至，我情不可陈。

浅帻分秋，凉尊试月，西风未雁犹蝉。看芙蓉影里，绿鬓年年。日上云颿压海，尘清玉马行天。更烟楼凤举，风幕麟游，锦后珠前。
绿阴池馆如画，记晴春药径，雨晓芝田。已办十年笑语，小聚云边。舞称香围艳雪，歌迟酒落红船。早群仙醉去，柳掖花扶，似雾非烟。