南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

翳翳日景入，行行故人远。
故人万里别，此去何当返。
迨君归禹穴，是我登邛阪。
苦语难重谋，相期在加饭。

六经在天下，浩瀚若河汉。东流竟日夜，万世资溉灌。

辽哉去圣久，原远末益散。竞持郢书说，孰别鲁鼎赝。

鸡鹖物之微，犹自了晨旦。云胡有目人，莫睹星宿烂。

新安巨子出，毫缕密分辨。嗟予童而习，弱质少勇悍。

续绠钩其深，事倍功未半。吾乡有奇彦，京国逞纵观。

顾予齑梦中，快甚汤液汗。妙句发心声，严严气魁岸。

相期五色瓜，剖实得犀瓣。

扶疏桂树月中生，谁遣人间伴大椿。桂欲芳时椿正老，等閒相伴八千春。