孟懷玉，平昌安丘人。他的高祖孟珩，是晉朝的河南尹。祖父孟淵，官至右光祿大夫。父親孟綽，在高祖起義後當給事中、光祿勳，死後被追認為金紫光祿大夫。孟懷玉世世代代住在京口。
高祖東伐孫恩，用孟懷玉當建武司馬。孟懷玉參加起義軍，跟從高祖平定京城。因此功被封為鄱陽縣侯，食邑一千戶。高祖鎮守京口以懷玉為鎮軍參軍、下邳太守。義熙三年(407)，孟懷玉出外當寧朔將軍、西陽太守、新蔡內史，又被任為中書侍郎，轉任輔國將軍，帶丹陽府的部隊，戍守石頭城。
盧循進逼京城，孟懷玉在石頭城江岸上連續作戰，都有功勞，被委任為中軍諮議參軍。敵將徐道覆多次想以精兵登岸，因怕孟懷玉不敢上岸。盧循逃向南方，孟懷玉和各軍一齊追擊，直到五嶺江南。徐道覆屯據始興，孟懷玉圍攻他，親自搏擊，經幾十天終於攻下始興。再向南追擊盧循，盧循被平定，孟懷玉被封為陽豐縣男，增加食邑二百五十戶，再當太尉諮議參軍、征虜將軍。八年(412)，孟懷玉遷任江州刺史，不久又當督江州豫州的西陽新蔡、汝南穎川司州的恆農揚州的松滋六郡諸軍事，南中郎將，刺史還照舊。當時荊州刺史司馬休之佔據上游，心懷異端，所以授予孟懷玉這個職務，用以防衛休之。十一年(415)，孟懷玉加官持節，因為父親去世，懷玉孝心很重，於是得了重病，上表請求解除自己的職務，沒有被允許。他又上書說自己的弟弟孟仙客過繼給叔父，父親喪事只有自己能主持。於是被同意辭職，還未離任，當年便去世了，享年三十一歲。死後被追認為平南將軍。他的兒子孟元死了，沒有兒子，封爵便被取消。懷玉另外一個封爵是陽豐男，他的兒子孟慧熙繼承了這個爵位，孟慧熙因為不祭祀被取消爵位。慧熙的兒子孟宗嗣，官至竟陵太守、中大夫。