公元前117年，在經歷了漢武帝時期三次大規模的打壓戰役後，匈奴勢力大大減弱，不得已朝更北邊的荒漠逃去。為了保護自己的民族，匈奴決定和漢朝休戰。漢武帝早有就想讓匈奴臣服自己，現在匈奴親自前來講和，當然是最好不過的。結果雙方剛一談判，漢武帝的怒火竄了上來，原來匈奴妄想漢朝每年給他們進攻糧食和金銀珠寶，如果不答應的話，之前留在匈奴的漢朝使者將永遠不能回到中原。漢武帝當然不可能答應，於是漢朝和匈奴的戰爭又持續了十多年。
公元前100年，匈奴部落產生了新單于，漢武帝打算派遣使者出使匈奴，一方面是祝賀新單于登基，另一方面是想和匈奴商量停止兩國之間的戰爭。漢武帝選中了中郎將蘇武擔當使者，於是蘇武帶著一百多人和許多財物，浩浩蕩蕩朝荒漠前進。
完成出使任務後，正當蘇武準備啟程回漢的時候，匈奴內部卻發生了混亂，蘇武等人也被匈奴暫時扣留下來。單于知道蘇武是個忠臣，想讓他永遠留在匈奴，於是勸說蘇武拋棄漢朝，蘇武不肯，匈奴便許諾給他封官加爵，還賞賜很多財物，都被蘇武拒絕了。單于一怒之下把蘇武關在一個露天的地洞裡，北方的冬天特別冷，雪花大朵大朵從天上飄下來，刺骨的寒風簡直能劃開人的肌肉，鑽進骨髓裡。為了讓蘇武歸順，單于還下令不給蘇武提供任何食物和飲水，面對這樣的殘酷處境，蘇武仍然堅持心中的信念，絕不向匈奴屈服。口渴的時候就抓一些積雪來吃，餓了的話就從身上的羊毛襖子上扯些羊毛放進嘴裡嚼著。地洞裡沒有可以遮擋寒風的東西，晚上只好裹著羊毛襖子縮在角落裡睡覺。即便如此，蘇武始終沒有向匈奴低頭。好幾天過去後，單于看到蘇武奄奄一息的樣子，心裡更加敬佩他，也越發想把他留下來。單于先把蘇武從地洞裡放出來，然後給他一群羊，把他流放到北海（今西伯利亞的貝加爾湖地區）去牧羊，以此來磨滅他的意志。單于告訴蘇武，等到公羊生下來小羊，他就能回到自己的國家。
蘇武帶著羊群來到荒涼的貝加爾湖，周圍沒有一戶農居，而且蘇武還發現，這群羊全都是公羊，沒有母羊，自然也就不可能有小羊羔出生，更不要說公羊產羊羔了。單于就是想讓蘇武陷入絕望的境地，打消回漢的念頭。沒有人來幫忙，單靠一個人的力量絕對逃不出這個地方，蘇武只好喝雪水、抓野兔維持生命，每天在湖邊放羊，手裡緊緊地拿著那根代表漢朝使者身份的使節，晚上就睡在羊群中間。一年又一年過去了，使節上的吊墜都磨破、掉光了，蘇武的頭髮和鬍子也變白了，但他沒有一天忘記自己是漢朝使者這件事，他堅信總有一天能回到自己的國家。
蘇武在貝加爾湖一待就是十九年。十九年間發生了很多事情，當初扣留蘇武的匈奴單于去世了，他的兒子成了新的單于；漢朝的政局也發生了變化，漢武帝死了，漢昭帝即位。新單于登基後，立刻派人向漢朝和好，漢昭帝要求首先釋放這些年被扣留在匈奴的使者。
匈奴為了表示誠意，果真把關押的漢朝使者都放了出來，漢昭帝派了一位官員去匈奴迎接使者回朝。官員在眾人之中沒有看到蘇武，便向新單于要人，單于說蘇武已經死了，官員有些懷疑，但又沒有證據說明單于在撒謊，只好不再問下去。就在官員和使者即將離開匈奴的一天晚上，一個曾被扣留的使者悄悄地買通了單于身邊的侍從，終於得知蘇武被流放在貝加爾湖放羊，使者連忙把這個消息告訴了官員。官員立刻找到單于，說漢昭帝不久前在上林苑打獵，天上突然飛來一隻大雁，落在皇帝面前，大雁的腳上綁著一塊布，上面寫著蘇武在貝加爾湖牧羊。單于聽了大吃一驚，沒想到蘇武在那麼惡劣的環境裡都能得到幫助，向外界求救，以為蘇武的忠誠感動了天地，於是派人把蘇武接了回來。眾人看到白髮蒼蒼的蘇武，都忍不住哭了起來。
公元前81年，蘇武在出使匈奴十九年後，終於回到了長安，他堅貞不屈的精神令漢昭帝感慨不已，昭帝賞賜了很多財物給他。第二年，上官桀、上官安父子和桑弘羊發動叛亂，企圖謀反，被昭帝鎮壓，蘇武的兒子也參與了叛亂，蘇武因此被削去官職。昭帝駕崩後，蘇武和朝中一些大臣擁護漢宣帝登基，隨即被宣帝封為關內侯。
公元前60年，蘇武去世。他對國家的忠心永遠值得後人紀念和學習。