一個人的堡壘也可能是他的牢籠

解讀《OK,格洛麗》

余晨

易寶支付聯合創始人

經典科幻電影《2001太空漫遊》中講述了這樣一個故事:人工智能「哈爾9000」控制了太空船,拒絕為在太空中營救同伴的一名飛行員打開艙門,讓他回到飛船內。

《OK,格洛麗》講述了另一個故事:人工智能「格洛麗」被黑客入侵後,誤以為外面變成了「殭屍末日」,以保護主人的名義將布萊恩在房子裡囚禁了50天。

前一個人工智能不讓人進門,而後一個不讓人出門。

這兩個故事中的人工智能都違反了科幻小說家艾薩克·阿西莫夫提出的機器人三定律:機器人不能傷害人類,並且需要服從人類的命令。

當然,格洛麗只是被黑客入侵,它並不是一個強人工智能。技術本身並沒有善惡,技術只是人性的放大器,被人們用來當作行善或者作惡的工具,最終毀滅或是拯救人類的還是我們自己。

今天,我們無法迴避人工智能可能帶來的巨大影響。馬克·扎克伯格認為:人工智能會造福人類,而埃隆·馬斯克卻認為:人工智能將威脅人類的生存。你會站在哪一邊呢?

姑且不用考慮人工智能把主人鎖在房中這樣的極端情形,想像一下人工智能本應為我們服務的場景:在一個從梳妝鏡到冰箱全部聯網智能化的房子裡,或許從我們起床的那一刻起,人工智能便為我們安排好了一切:建議我們穿什麼衣服更應景,吃什麼早餐更有營養……在今天已有的技術下,人工智能已經能為我們推薦比我們自己挑選的還要更令我們喜歡的產品。未來,當我們一切聽從人工智能的指揮時,人類的自由意志又何在呢?

互聯網本應讓人類更緊密地連接在一起,但這種「虛擬親密」卻造成了「群體性孤獨」,以至於當主人公被格洛麗關在房子裡時,沒有人會注意到他的失蹤,以為他只是想隔絕世俗。這或許是現代「宅」人最大的悲劇。

更令人不寒而慄的是,這個故事裡所描述的世界離我們並不遙遠,文中寫到的比特幣、OK Cupid、富國銀行是如此的熟悉,而PINE、蘋果IIe甚至會令人懷舊。硬科幻細節的精確描寫,比如被囚禁的主人公仍被允許發送HTTP請求來瀏覽網站,但SMTP只能掛在外部而無法發送求救郵件等讓這篇小說顯得如此真實、生動。

故事的最後一段話或許是一個恰如其分的隱喻:

一個人的堡壘也可以成為他的監獄。

本來保護我們的,卻成為傷害我們的。科技到底將解放人類,還是奴役人類?

《十二個明天》