南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

瓜熟黄台子渐稀，银潢天派一丝微。金鸡槲抄频颁赦，岭外流人更不归。

参横月落闻街鼓。指杨柳、天边路。冷澹梨花啼玉箸。

五云芝检，八花砖影，稳上鳌头去。

吹箫台冷秦云暮。玉勒嘶风弄娇步。四雁峰前凭尺素。

壁尘香减，绮窗风静，记得题诗处。

男儿不能杀贼立功牖下老，陶土沈埋空草草。雁塞龙堆边月寒，广牧英名迹如扫。

马革归魂破庙存，士女犹谈曹太保。噫嘻太保心似铁，仗剑秦关眼流血。

有明末造半尘土，誓挽日车回覆辙。发迹始辽左，转毂经河汾。

虫沙卷地地无色，忠义薄天天不闻。咄哉南原役，争传太保死。

城上白旗悬，貔貅因封豕。横矛跃马突飞出，一鼓幺么歼水涘。

首功三万六千六，大树将军徒尔尔。南箕贝锦太纷呶，荐牍枉劳张御史。

惟闻士民语，军中有一曹。威名满天下，西贼心胆摇。

尔时大曹小曹并烜赫，直与韩范功同高。湫头镇前大星殒，援绝粮空势齑粉。

太保请行目眦烈，生戴吾头愧延颈。靴刀巷战血淋漓，白日无光照幽愤，从此中原事尽非，君王手诏泪沾衣。

鸰原憔悴忻州失，驹齿摧残杏岭围。一门碧血流青史，九十九泉空落晖。

吁嗟乎！松山哀，梅花岭，前代忠奸久同尽。二臣档子尚烟销，百战奇功更灰冷。

云中遗裔近衰微，栌栱荒凉秋草肥。何当旧史南狐笔，重写关西破贼碑。