陸雲字士龍。六歲就能寫文章，性格清正，很有才思文理。少時與哥哥陸機齊名，雖然文章不如陸機，但持論超過陸機，人稱「雙陸」。年幼時吳國尚書廣陵的閔鴻見後認為是奇才，說：「這個小孩若不是龍駒，也當是鳳雛。」後來推舉為賢良，才十六歲。
吳國被平定後，來到洛陽。陸機初次造訪張華，張華問陸雲在哪裡。陸機說：「他有喜歡笑的毛病，未敢相見。」一會兒陸雲來了。張華為人多有儀容，又喜歡用絲帛纏鬍鬚。陸雲見後大笑，不能自已。在此之前，陸雲曾穿著喪服上船，在水中看到自己的影子，便大笑落水，人們打撈才得以獲免。陸雲與荀隱素不相識，曾在張華處相會，張華說：「今天相遇，不要老生常談。」陸雲便抬起手說：「雲間陸士龍。」荀隱說：「日下荀鳴鶴。」鳴鶴是荀隱的字號。陸雲又說：「已開青雲見白雉，為何不拉開你的弓，搭上你的箭？」荀隱說：「本以為雲龍強壯，卻原來是山鹿野麋。獸小杯強，因此發射得慢。」張華捧手大笑。刺史周浚召陸雲為從事，並對人說：「陸士龍是當今的顏回。」
不久以公府掾的身份當太子舍人，出京補任浚儀縣令。該縣居於都會要衝，實在難以治理。陸雲到任後嚴肅恭敬，下屬不能欺騙他，市場沒有兩樣價格。有個人被殺，主犯的罪名不成立，陸雲拘留死者的妻子，卻不審問。十多天後放出去，暗地裡讓人跟隨其後，並對跟隨的人說：「她離開不出十里，如有男子等著跟她說話，便把他們捆縛來見。」而後果真如此。一審問這人就服罪，說：「我與這個女人私通，共同謀殺了她丈夫，聽說這女的放出來，要跟她講話，怕離縣府近，讓人發現，所以遠遠地等著她。」於是一縣稱頌他神明。郡守忌妒他的才能，多次譴責他，陸雲便辭官。百姓追念他，繪出他的像，與縣裡的灶神相配享受祭祀。
不久拜為吳王司馬晏的郎中令。司馬晏在西園大肆營建宅第居室，陸雲上書說：「我私下見世祖武皇帝臨朝執政拱手緘默。訓導世俗節儉，即位二十六年，沒營建什麼新的宮室台榭，多次發佈詔書，告誡人們不要奢侈。國家的傳統，務在遵奉執行，而世俗衰落，家家競相放縱，漸成波浪，已成風氣。雖有嚴厲的詔書屢次宣佈，而奢侈的風俗卻更普遍。每次看到詔書，百姓歎息。清河王從前建墳墓時，皇帝親手寫詔書要追述先帝節儉的風教，懇切的情意，傳到四海。清河王奉行詔命毀掉已建成的墓宅，四海之內聲望顯著，眾人欣欣然。我以為先帝的遺教一天天衰微，現在同國家一齊崇尚教化，追述前賢遺蹤的人，的確在於殿下。首先要重視樸素，然後才可以訓正四方；凡是崇飾浮麗的事，應當加以節制，然後才能對上滿足天子的意願，對下符合時人願望。為臣我才能平凡，承蒙提拔，也想竭力效忠以報答您對我的恩惠，因此不考慮冒犯迕逆，大膽地陳述我的想法。如果我的話有可採納的，請您三思。」
當時司馬晏信任部將，讓人複查各位官員的錢帛，陸雲又陳說道：「謹見令書，讓部將李鹹、馮南、司馬吳定、給使徐泰等複查各位官員的錢帛。我私下認為聖德光大，光照大國，選拔各位良材任職，百工盡業。中尉該、大農誕都清正廉潔賢淑謹慎，忠於職守，至於他們下屬的各位官員，都是州、閭的耿介之士。疏漏過失雖然天天聽到，而禮義大事，幾乎無大錯。現在李鹹、馮南、吳定、徐泰這些役卒小廝，並無清正公謹之名、忠於公職之稱。大臣所關涉的事，尚不詳細，而讓李鹹等人去督察，然後才相信大臣的清廉，這既不是開國用臣之義，又傷害了殿下你推誠曠達的雅量。即使李鹹等人能夠盡職，有益於國，甚至功利百倍，而對於多方輔助國家的美德而言，還不如大開相信士人之門更合適。何況所增加的只是苟且安定之利，而讓小人用事，大道衰微，這是我感慨的原因。我任大臣之職，職責就是獻可行之策，如果有一孔之見，豈敢不盡力規勸。我私下認為應發佈命令，停止復察，眾事一律交付治書，就能屬下大治，人人竭盡臣節了。」
入朝任尚書郎、侍御史、太子中舍人、中書侍郎，成都王司馬穎上表讓他當清河內史。司馬穎將要征討齊王司馬礒，讓陸雲當前鋒都督。遇司馬礒被殺，轉任大將軍右司馬。司馬穎晚年政事衰減，陸雲屢次以直言違背旨意。孟玖想讓他父親當邯鄲縣令，左長史盧志等人都阿諛聽從，而陸雲執意不肯，說道：「這個縣都是公府掾的資格任職，哪有小黃門的父親任此職呢？」孟玖深懷憤恨。張昌作亂，司馬穎上奏讓陸雲當使持節、大都督、前鋒將軍去征討張昌。遇上討伐長沙王司馬砬才停下來。
陸機失敗後，一併逮捕了陸雲。司馬穎下屬官員江統、蔡克、棗嵩等上疏說：「我們聽說人君聖明，臣下盡職規諫，如果內心有想法，不敢不陳述。昨日聽說陸機延誤軍期，師徒敗績，依法受刑，無人不說很恰當，這的確足以嚴肅三軍，示威遠近，所謂一人被殺，告誡了天下。又聽說由於陸機圖謀反叛，應該滅族，不瞭解事情本末的人，沒有人不疑惑。在朝中封爵，與眾人齊同；在街市行刑，讓眾人唾棄。只是用刑應憐惜，這是古人所深重的。現在你舉義兵，排解國難，四海同心，雲合響應，罪人的性命，懸於旬日，太平的日子，旦夕可就。陸機兄弟倆都承蒙提拔，接受重任，不可能背離無極的恩德，去投靠垂死的敵寇；離開泰山般的安定，去投靠累卵般的危險。只是因為陸機計謀膚淺，不能統領群帥，勇敢殺敵，進退之間，事情似乎可疑，所以使聖鑒未能詳察事實罷了。用刑誅殺是大事，說陸機有反叛的跡象，應讓王粹、牽秀考究審查此事。把事情檢驗明白，公佈於萬民，然後再對陸雲等進行誅戮，也不算晚。現在的判決，實在太重，如果屬實，則足以使天下心悅誠服，如果不實，必然四方離散，所以不可不詳審、謹慎。我們的區區之心，不只是替陸雲一個人請命，的確也是考慮到這件事有得失的關鍵存在，所以竭盡愚忠，以防誹謗。」司馬穎未採納。江統等人再次請求，司馬穎猶豫了三天。盧志又說：「從前趙王殺中護軍趙浚，赦免了他兒子趙驤，趙驤後來又進攻趙國，就是前車之鑒。」蔡克向司馬穎磕頭流血，說：「陸雲為孟玖所恨，遠近無人不知。現在如果殺了陸雲，罪行不明，眾人將會疑惑，我私意為您遺憾。」同僚幾十人隨同蔡克入諫，流著淚堅決請求，司馬穎同情並有寬宥之意。孟玖扶著司馬穎入內室，催他快殺陸雲。陸雲死時四十二歲。他有兩個女兒，沒有兒子。門生和舊官吏迎喪並安葬於清河，修墓立碑，四時祭祀。陸雲所著的文章三百四十九篇，又撰寫了《新書》十篇，都在世上流行。
當初，陸雲曾經出遊，想逗留寄宿在故人家裡，黑夜迷了路，不知路徑。忽然望見草叢中有亮光，於是向那兒走去。走到一家，便寄宿，見一個少年，風姿優美，一道談《老子》，言辭深遠。天快亮時辭去，走了十幾里，到故人家，故人說這幾十里內無人居住，陸雲才明白。去尋找昨夜寄宿的人家，原來是王弼的墳墓。陸雲本不通玄學，從此談《老子》大有長進。
陸雲的弟弟陸耽作平東祭酒，也有美名，與陸雲一道被害。大將軍孫惠給淮南內史朱誕的書信中說：「沒想到陸家三兄弟一起在昏暗的朝代入仕，都遭殘害，道業淪喪，慘痛至極，生靈塗炭難以言表。國家喪失美好的聲望，悲傷的何止一人？」陸氏兄弟就是這樣為鄉閭所悲悼。後來東海王司馬越討伐司馬穎，給天下發聲討的檄文，把他枉害陸氏兄弟也作為一條罪狀。