南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。

五都来往无旧业，一代公卿尽故人。
不肯低头受羁束，远师溪上拂缨尘。

卷地风抛市井声，病夫危坐了清明。
一帘晚日看收尽，杨柳微风百媚生。

湖之水兮碧泱泱，环越境兮润吴疆。
蒲螺所萃兮雁鹜群翔，朝有行舻兮幕有归艎。
茭牧狎至兮渔采相望，溉我田畴兮生我稻粱。
我岁穰熟兮我民乐康，马侯之功兮其谁敢忘。
莼丝紫兮箭笋黄，取其洁兮薦侯堂，
醆斝具兮箫鼓张，日晻晻兮山苍苍。
侯之来兮云飞扬，隔微波兮潜幽光。
念山可为席兮湖不可荒，惟侯之灵兮与流比长。
万斯年兮福吾乡，乐吾生兮徜徉。