南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

浊酒自沽还自把，先生寄傲南窗下。门前五柳渐看长，使君时时来系马。

绮阁东偏，红亭中峙，重经六客停骖。庭前松柏，曾听主宾谈。

南极光芒不见，重逢处、绿鬓毵毵。今朝也、苕溪月满，此会已成三。

坐中词客在，张华冀北，庾信江南。把玉壶再酌，锦字还探。

独有枯槎入画，星缠里、醉倒双柑。东风起、檐花落井，红影笑春酣。

二月春明花乍残，道山亭上翠如鬟。天开图画峰攒戟，地接蓬莱雪满关。

双凤巢云朝贝画，六鳌驾海出人寰。薇垣官从多时彦，听取山人半日閒。