八仙過海是八仙最膾炙人口的故事之一，最早見於雜劇《爭玉板八仙過海》中。相傳白雲仙長有一回於蓬萊仙島牡丹盛開時，邀請八仙及五聖共襄盛舉，回程時鐵拐李(或呂洞賓)建議不搭船而各自想辦法，就是後來「八仙過海、各顯神通」或「八仙過海，各憑本事」的起源。八仙人物出處不一，時代不同。最初見於史籍且確有其人的，是初盛唐時道術之士張果。
五代宋初，關於呂洞賓的仙話傳說，流傳甚盛，與道教內丹修煉法的傳播相煽助，兩宋之際即盛傳「鐘呂金丹道」。金元時全真道教興起，為回應民間信仰及傳說以宣揚其教法，將鍾離權、呂洞賓等推為北五祖，民間傳說、雜劇戲談等便與道教神仙相互演衍，八仙故事流傳益廣，內容益繁富。呂洞賓是八仙形成的核心人物，道教稱之為呂祖，各地道觀，尤其全真道觀祭祀不輟。
「八仙」一詞在中國歷史上一直擁有不同的含意，，直至明吳元泰《八仙出處東遊記》始定為：鐵拐李、鍾離權(漢鍾離)、呂洞賓、張果老、曹國舅、韓湘子、藍采和、何仙姑。
道教的八仙緣起於唐宋時期，當時民間已有「八仙圖」，在元朝馬致遠的《岳陽樓》、范子安的《竹葉船》和谷子敬的《城南柳》等雜劇中，都有八仙的蹤跡，但成員經常變動。馬致遠的《呂洞賓三醉岳陽樓》中，並沒有何仙姑，取而代之的是徐神翁。在岳伯川《呂洞賓度鐵拐李岳》中，有張四郎卻沒有何仙姑。明《三寶太監西洋記演義》中的八仙，則以風僧壽、玄虛子取代張果老、何仙姑。
在民間， 劉海(或作劉海蟾)雖然現在不在八仙當中，但在許多地區仍位於八仙之列。明《列仙全傳》用劉海頂替了張果老，在江西某些地區的「跳八仙」中，也有以劉海代替漢鍾離的，而台灣亦有用劉海替代藍采和。日本也有類似的神明組合，稱為「七福神」，但其中多為印度教或佛教神明。由於中日兩地文化影響，加上七福神搭寶船的形象與八仙過海類似，也有學者認為七福神是由中國八仙而來。