溫子升，字鵬舉，自稱太原人，晉代大將軍溫嶠的後代。世代居住江左。祖恭之，劉義隆政權彭城王劉義康的戶曹，避難歸國，定居在濟陰冤句，因而成為該郡縣人。家中世代寒微。父溫暉，兗州左將軍府長史，行濟陰郡事。
子升開始在崔靈恩、劉蘭處受學，讀書精勤，晝夜不倦。長大後博覽百家，為文清婉。作為廣陽王元淵的下等賓客，在馬坊教眾奴子書。寫《侯山祠堂碑文》，常景見到後很讚賞，故到元淵處感謝。景說：「剛剛見到溫生。」元淵很奇怪地問是怎麼回事，景說：「溫生是大才士。」元淵從此待溫子升漸漸好起來。
熙平初年(516)，中尉、東平王元匡廣召善文辭之人，以充任御史，同時參加射策考試的有八百多人，溫子升與盧仲宣、孫搴等二十四人中高第。當時參與選拔的人爭相引決，元匡讓溫子升去應付他們，眾人都受屈而去。孫搴對人說：「朝來吵吵嚷嚷的人群，都是子升把他們趕走了。」於是補御史職，當時只二十二歲。台中文筆都是溫子升所為。後以家喪離任，喪期滿後，又應朝請任原職。後來李神雋行荊州事，引他兼錄事參軍。被征赴省，李神雋上表留他，不讓他還朝。吏部郎中李獎退表不許，說：「過去伯瑜不應留，王朗因此發出感歎，你今應迅速讓他赴朝，不要步彥雲前番過失。」於是溫子升還省。
正光末年(525)，廣陽王元淵任東北道行台，召溫子升任郎中，軍國文書都出自他的手筆。從此才名轉盛。黃門郎徐紇受四方表啟，回答迅速，對於元淵獨沉思說：「他有溫郎中，才辭可畏。」高車人戰敗逃散，珍寶到處都是，子升只取絹四十匹。等到元淵被葛榮所害，子升也被逮捕了。葛榮部下都督和洛興與溫子升是舊相識，送給溫子升數十匹馬，他到了冀州。還京後，李楷握著他的手說：「卿今免禍，足以使夷甫懺悔慚愧。」從此後，溫子升沒有了為官的願望，閉門讀書，厲精不已。
建義初年(528)，任南主客郎中，修起居注。他曾有一天沒有值班，上黨王元天穆當時任錄尚書事，準備鞭打他，溫子升便逃走了。天穆很惱火，奏請別人代替他的位置。莊帝說：「當世才子不過數人，哪能為這點小事，便加放逐。」於是只好作罷。等到元天穆準備討伐邢杲，召溫子升同行，子升沒敢答應。天穆對人說：「我想把他當個才來使用，哪裡會懷前忿。今天他又不來，除非他南逃越地，北走胡原就算了！」溫子升不得已只好去見他。加授伏波將軍，任行台郎中，元天穆深深地賞識他。元顥入洛陽，元天穆召溫子升問：「是揮師向京城，還是隨我北渡？」回答說：「主上因虎牢關失守，才導致今天的狼狽局面。元顥新入京城，人情未定，今天就去討伐，必定是有征無戰。大王如若先克復京城，奉迎大駕，這就是齊桓、晉文之舉了。捨此而北渡，臣竊為大王惋惜。」元天穆覺得他說得好卻不能按他說的去做。派溫子升還歸洛陽，元顥命他為中書舍人。莊帝還宮，以前被元顥任職的多被廢黜，而溫子升仍為舍人。元天穆每每對溫子升說：「恨我不能依卿前計辦事。」溫子升被除任正員郎，仍任舍人。
等到莊帝殺了..朱榮，子升參預了謀劃，當時的赦免詔書，就是子升的手筆。..朱榮入宮內，遇到溫子升，拿著詔書問他是何詔書，子升顏色不變，說「敕」。..朱榮不看他。..朱兆進入洛陽，溫子升怕遇禍，逃走了。永熙年間，任侍讀兼舍人、鎮南將軍、金紫光祿大夫，遷任散騎常侍、中軍大將軍，後領本州大中正。
蕭衍讓張皋模仿溫子升文筆，傳文江外。蕭衍稱讚說：「曹植、陸機又生於北土。恨我辭人，白白有一百零六人。」陽夏太守傅標出使吐谷渾，看到其國主床頭有書數卷，原來是溫子升的文字。濟陰王暉業曾經說：「江左文人，宋有顏延之、謝靈運，梁有沈約、任日方，我子升足以陵顏壓謝，含任吐沈。」楊遵彥作《文德論》，認為古今文人都負才遺行，行薄險忌，只有邢子才、王元景、溫子升彬彬有德行。
齊文襄王引薦子升為大將軍府咨議參軍。子升以前任中書郎，曾到蕭衍客館接受國書，自己不修舉止，對人說：「詩章易作，行為不羈難以做到。」文襄館客元僅說：「眾人當賀。」推子升合陳辭。溫子升總是忸忸怩怩，改推陸操。等到元僅、劉思逸、荀濟等作亂，文襄懷疑溫子升參與了謀劃。這時正派他寫獻武王碑文，寫成後，很快就把他投到晉陽獄中，吃破棉絮而死，棄屍路邊，抄沒了他的家口。太尉長史宋游道把他收葬了，又把他的文字收集結集為三十五卷。溫子升外貌恬靜，與物無爭，言而有物，不妄毀譽，而城府極深。每有大事，喜歡參預，所以最終還是禍及自己。又寫有《永安記》三卷。無子嗣。