南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

望诗十步九回头，目断江山望未休。
所幸临行曾举似，仅能记忆可遮羞。
碧云漏日村村雨，红树吟风叶叶秋。
不见夜光生歇处，客身却恨欠迟留。

郎官拜日我瞻星，曾见祥光动禁城。琴酝春风千古照，剑磨秋水十年莹。

单车到处能绥寇，一德孚时不用兵。宪眷有言荣衮冕，黄云何计久飞鸰。

道林岳麓仲与昆，卓荦请从先后论。松根踏云二千步，
始见大屋开三门。泉清或戏蛟龙窟，殿豁数尽高帆掀。
即今异鸟声不断，闻道看花春更繁。从容一衲分若有，
萧瑟两鬓吾能髡。逢迎侯伯转觉贵，膜拜佛像心加尊。
稍揖皇英颒浓泪，试与屈贾招清魂。荒唐大树悉楠桂，
细碎枯草多兰荪，沙弥去学五印字，静女来悬千尺幡。
主人念我尘眼昏，半夜号令期至暾。迟回虽得上白舫，
羁泄不敢言绿尊。两祠物色采拾尽，壁间杜甫真少恩。
晚来光彩更腾射，笔锋正健如可吞。