南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

亦欲依家耳，衡门斗极边。乡心征化鹤，宦径跕飞鸢。

白日抛书送，青山拂槛延。风流自无已，忆上五湖船。

弱龄寄事外，委怀在琴书。
被褐欣自得，屡空常晏如。
时来苟冥会，宛辔憩通衢。
投策命晨装，暂与园田疏。
眇眇孤舟逝，绵绵归思纡。
我行岂不遥，登降千里余。
目倦川途异，心念山泽居。
望云惭高鸟，临水愧游鱼。
真想初在襟，谁谓形迹拘。
聊且凭化迁，终返班生庐。

百战归来辞玉勒，恋栈似闻长叹息。秋风一夜梦关山，身欲奋飞无羽翼。

当时神骏主人怜，破胡灭虏著先鞭。将军今入凌烟画，回首驰驱已十年。

自信死生犹可托，迎新弃旧人情薄。千金市骨果何人，终当饿死填沟壑。

捷足争誇后进材，英雄末路剧堪哀。识途足备沙场用，其奈世无管子才。

老马伏枥志千里，烈士暮年心未已。君未知马焉知人，风尘豪杰终老矣。