范雲字彥龍，南鄉舞陰人，是晉朝平北將軍范汪的六世孫。祖父范璩之，是宋朝的中書侍郎。范雲六歲跟著姑父袁叔明讀《毛詩》，每天誦讀九頁。陳郡殷琰以善識人才聞名，一次探訪叔明時見到他，對叔明說：「這是宰相的材料啊。」
范雲生性機警，有才識，善寫文章，下筆即成，人們往往懷疑他是早就構思好了。他父親范抗任郢州府參軍，范雲隨父在郢州。當時吳興沈約、新野庾杲之和范抗是府中同僚，見到范雲很快就成為朋友。
初入仕任郢州西曹書佐，後轉任法曹行參軍。不久沈攸之舉兵包圍郢州，當時范抗作為府內僚屬，入城固守，家屬留在城外。范雲被城外兵士抓去，沈攸之把他叫來問話，聲色俱厲，但范雲面不改色，回答從容不迫。攸之笑道：「你真是個招人喜歡的人兒，先回家去吧。」第二天又叫來範雲讓他到城裡送信，犒賞武陵王一石酒、一頭小牛；犒賞長史柳世隆二十條魚會魚，而都把頭去掉。城裡有人要殺范雲，范雲說：「我的老母弱弟，命都在姓沈的手裡攥著，如違背他的命令，一定禍及我的親人。現在在這兒被殺，我心裡像薺菜一樣甘甜。」柳世隆一直和范雲關係好，就解救了他。
後來官拜員外散騎郎。齊建元初年，竟陵王蕭子良作會稽太守，范雲任府主簿。竟陵王對他還不瞭解。後來約定了日子去登秦望山，命范雲同行。范雲因為知道山上有秦始皇刻石，此文三句一韻，人們多按兩句一韻讀，都讀不出韻味；又因為字體是大篆，大多數人不認識，於是夜間找出《史記》誦讀熟練。第二天登山，子良讓賓客僚屬們讀刻石，都糊里糊塗不認識。最後問到范雲，范雲回答說：「下官曾讀《史記》，見過這刻石文。」於是上前流暢地讀了下來，子良大喜，於是把他待為上賓。從此受到的寵幸王府中無人能比。竟陵王作丹陽尹，他又為主簿，深得親信任用。一次去進見齊高帝，碰上有人來獻白烏鴉，高帝問這是什麼祥瑞，范雲官位低最後回答，說：「我聽說王者禮敬宗廟就會有白烏鴉來到。」當時高帝剛剛拜謁完宗廟，於是說：「你說的對啊，神靈感應的道理，竟是如此應驗啊！」
蕭子良歷任南徐州、南兗州刺史，范雲一直跟隨州府遷任，經常向子良陳述朝政的得失。不久范雲任尚書殿中郎。子良為他求俸祿，齊武帝說：「聽說范雲專門奉承你，正應當流放他。」子良回答說：「范雲侍奉臣下時，動不動就相規勸，諫書現存著一百多張。」武帝要來觀看，所說的都很懇切中肯，歎息了半天，說：「沒想到范雲居然是這樣，正該讓他來輔佐你。」
子良作司徒時，又補他為記室。當時巴東王蕭子響在荊州，殺害向朝廷密告他的屬官，京城裡人心浮動，多有背叛朝廷之意。而豫章王蕭嶷雖說鎮守東府城，卻經常回自己家，動不動就是十天半月。蕭子良則在西郊營造府第，終日遊戲而已。梁武帝蕭衍當時作南郡王的文學，和范雲一起受蕭子良禮遇。蕭衍勸子良回石頭城，並說大司馬應該回到東府去，子良不聽。蕭衍把這情況告訴范雲，當時廷尉平王植被齊武帝親近，范雲就對王植說：「國家西部不太平，人心叵測，大司馬怎麼能長期待在家裡？司徒也應該鎮守石頭城。你在皇帝那兒既然出入甚多，說說這事應該比較容易。」王植就請范雲代寫啟奏，自己呈上皇帝。不久齊武帝就命二王各鎮一城。
文惠太子曾到東田觀看收稻子，范雲當時跟從著。太子回頭對他說：「割稻子看著很有意思啊。」范雲進言說：「三個季節的勞動，是很辛苦的，希望殿下能體察務農的艱難，不要尋求一朝的飲宴之樂。」太子變了臉色，向范雲致謝。從東田出來時，侍中蕭緬以前並不認識范雲，這時到車邊握住范雲的手說：「不料今天又聽到剛直的言論。」
齊永明十年(492)出使魏國，魏國派李彪向他宣示魏帝的旨意，李彪來到范雲的住處，對范雲很表讚譽。李彪為他拿來甘蔗、黃柑、粽子，吃完馬上又添上。李彪笑著對他說：「范散騎稍微省著點兒吧，吃完可就再沒有了。」回國後，又改任零陵內史。原來，照零陵的舊制度，官員俸祿除了公田的俸米之外，另外收雜調四千石。范雲到任後，只收取雜調的一半，百姓都很高興。因此很得齊明帝讚賞，調回京都任為正員外郎。
當時齊高帝、武帝一族的王侯都恐懼大禍臨頭，范雲趁明帝召見時乘機進言說：「從前太宰文宣王對我說，曾經夢到在一座高山上，頂上有一個深坑，看見文惠太子先掉下去，接著是武帝，再接著是文宣王。又看到僕射在室內坐在御床上，旁邊有帝王的羽儀，不知這是個什麼夢，讓我注意不要對別人說。」明帝流淚說：「文宣王的好處難以辜負。」於是對待他的兒子蕭昭胄兄弟比對其他宗室子弟好些。
范雲受寵於蕭子良，江石便向范雲求與他女兒結親，酒喝得多了，江石從巾箱中取出剪刀給范雲，說：「先拿它作為聘禮。」范雲笑著接受了。等到江石官作大了，范雲又趁著酒醉對江石說：「從前和將軍都是黃鵠，如今將軍變成了鳳凰，荊釵布衣的門戶，和華貴的門第理應分別。」於是拿出剪刀還給江石，江石也就另覓高門為婚。等江石遇禍被殺，妻兒流離，范雲經常照顧他們。
後來任始興內史。按照舊例，在郡界內的百姓如果捕到逃亡的奴婢，統統送到作坊做苦工；如果抓到逃亡部曲則賣掉，換成銀子繳納官府。范雲先讓百姓給他們作上標記，如果百日後找不到失主，便依法判決送交朝廷。另外始興郡的後堂歷任相沿有雜工作坊，范雲統統罷去，讓服役者回家，這些都得到皇帝的稱讚。始興郡內有不少霸道奸滑的大族，郡守有不如他們意的，就合謀殺害，不然就趕走他。邊境上的蠻人俚人中，盜賊尤其多，前任內史多攜帶兵器以自衛。范雲入境，則用恩德安撫他們，撤掉防衛哨所，於是境內太平無事，商賈可以露宿野外，郡內百姓把他稱為神明。
改任廣州刺史、平越中郎將。到任後，派人祭祀孝子南海的羅威、唐頌、蒼梧的丁密、頓琦等人的墳墓。當時江石的姨弟徐藝作曲江縣令，江石再三托付范雲關照他。有一個叫譚儼的，是縣裡的豪族，徐藝鞭打了他，譚儼感到受了奇恥大辱，到京城告了范雲，范雲因此被徵召回去下了獄，碰上大赦才得以赦免。
當初，梁武帝作司徒祭酒，與范雲都在竟陵王的西邸，關係很親密。永明末年，梁武帝和他哥哥蕭懿經占卜居住在建康東郊外，范雲也蓋了房子和他們為鄰。梁武帝每次到范雲的住處，范雲的妻子常常會聽到帝王出行時清道的聲音。范雲又曾和梁武帝一起夜宿顧日高之家裡，日高之的妻子正生孩子，有鬼在外面說：「這屋裡有王有相。」范雲起身回道：「是王你就應當瞻仰叩拜，是相就該歸命於王。」因此以後便為蕭衍盡心謀劃。後來武帝起兵，將要到建康，范雲雖沒有擔任齊朝的官職，但自己覺得與蕭衍平時關係親近，怕被東昏侯懷疑，想要求入城避嫌，先派車接來太原孫伯翳來商議。伯翳說：「如今上有天象顯示，下有災變感應，蕭征東以濟世雄武之才，挾天子而令諸侯，天時人事已經如此，還用多說什麼。」范雲說：「這話正合我意，只是如今羽毛未豐，不得不回到籠子裡去，希望閣下好好留意。」范雲入城後，被任為國子博士，還未正式任命，東昏侯被殺。侍中張稷派范雲帶著使命到石頭城見梁武帝，梁武帝像以往一樣善待他，於是他又為武帝出謀劃策，輔佐他成就大業。委任范雲為黃門侍郎，和沈約同心協力輔助武帝。不久改任大司馬諮議參軍，兼任錄事。
武帝受封為梁王，范雲改任侍中。武帝當時納娶齊東昏侯的余妃，為此很影響政務，范雲曾因此進諫，武帝沒有聽從。後來有一次和王茂一塊兒到武帝的臥室內，范雲又進諫，王茂於是起身下拜說：「范雲的話是對的，明公心裡一定要想著天下大事，不要留戀愛惜一個女人。」武帝默然不語。范雲便奏請武帝讓把余氏賞給王茂，武帝認為他的意見對而答應了他。第二天，賞給范雲、王茂各百萬錢。梁武帝受禪稱帝，在南郊燒柴祭天，范雲以侍中身份同乘一輛車。祭祀結束後，武帝上車對范雲說：「我現如今啊，就像拉著已朽爛的韁繩駕馭六匹馬一樣戰戰兢兢。」范雲回答說：「我也希望陛下一天比一天謹慎。」武帝很贊成他的話，當天就升任他為散騎常侍、吏部尚書。因輔佐武帝成就帝業之功，封為霄城縣侯。
范雲因與武帝有舊日情誼，位置在許多開國大臣之上，他也為朝廷竭誠盡力，只要是他想到的就一定去辦。武帝也推心置腹地倚仗他，凡是他所奏請之事，大多都准奏。范雲本來比武帝大十三歲，曾有一次陪武帝飲宴，武帝對臨川王蕭宏、鄱陽王蕭恢說：「我和范尚書年輕時就關係親密，相敬如兄弟。現在我作天下之主，兄弟之禮不能再用，你們應替我呼范雲為兄。」二王離座下拜，並和范雲一同乘車回尚書省，當時人們都認為他榮耀之極。武帝曾和范雲談起往事，說：「我從司州回建康時，住在三橋處家裡，門生王道拉著我的衣裳說：『聽到外邊的圖讖上說，齊朝天下不長了，應該另有王者，您應該謀取盎貴才是。』我當時坐在書齋裡讀書，內心被他的話說動，但外表上不得不表示責怪，要喊人把他捆起來，王道叩頭哀求，不敢再說。如今王道作了羽林監、文德殿主管，執掌門禁。」范雲說：「這不過是天意讓王道說出來罷了。」武帝又說：「我作百姓時，曾夢見拜從前的兩個妾為六宮嬪妃，如今有了天下，這兩個女人已經死了，所封的已不是原來的人了，我常為此而遺憾。」
那年，范雲以本官身份兼任太子中庶子。第二年，升任尚書右僕射，兼任吏部尚書。不久，因違背詔令用人，罷免吏部尚書職務，仍任右僕射。
范雲生性敦厚和氣，對寡嫂禮數周到，家裡的事一定要先問嫂嫂再去辦。講求氣節，喜歡做出不俗的行為，專門助人於急難之時。年輕時和領軍長史王田亥友善，范雲的房舍剛蓋好，家剛剛搬完，王田亥這時死在官署裡，屍體沒地方放，范雲就把它停放在自己的東廂房。把屍體從大門挪進來，還親自給死者口內含玉，按喪禮給死者招魂，當時人們都認為這樣作實在是難得。等到任吏部尚書掌管官吏的任免，武帝對他委以重任，每天滿桌公文、滿屋賓客，而范雲卻能對應如流，從不耽擱誤事，官府文書中的作偽之處，都能明察如神，當時之人都佩服他敏捷明斷。范雲性情率直急躁，缺乏威嚴穩重，對什麼事情褒貶，總顯得言語過激，有些士大夫便因此看不慣他。起先，范雲作郡守有廉潔之名，等官作大了，也收受了不少賄賂，然而家無餘財，有收入便隨即分送了親友。
梁武帝當初剛受九錫將要稱帝時，范雲忽然得病，過了兩天半，才叫醫生徐文伯來診視。文伯說：「要是慢治一個月會好，想快治馬上就能痊癒，可就怕二年後復發不可救治。」范雲著急地說：「朝聞道夕死而可，何況還有二年呢！」於是文伯點火給他艾灸，又給他多蓋上幾層衣服。不一會兒，汗流浹背立時能夠起床。但二年後果然發病而死。武帝為之下淚，當天親往參加殯殮，下詔贈任侍中、衛將軍，禮官奏請謚為「宣」，武帝下詔賜謚為「文」。范雲著有文集三十卷。
范雲有堂兄范縝。