解讀《革命》
吳甘沙
馭勢科技（北京）有限公司聯合創始人兼CEO
如果外星人真的來了，它們的唯一選擇是不是像《三體》中智子那樣鎖住人類科技的發展？
通用人工智能出現了，它們會不會感受到人類科幻小說中對智能機器的猜忌和仇恨，從而啟動人類滅絕計劃？
關於後一個問題，《生命3.0》的引言給出了一個不一樣的可能性，歐米茄團隊開發出了通用人工智能「普羅米修斯」。「普羅米修斯」及其操縱者善於隱藏自己的能力和野心，從文化切入（製作大量動畫片），進而在醫療、能源、製造業等方方面面改善了民生、提升了社會效率，並把賺來的錢投資於社區和公益事業，最終利用民主社會的機制掌握了輿論、攫取了權力。「歐米茄團隊已經完成了地球生命歷史上最具戲劇性的轉變。有史以來第一次，我們的地球由一股單一的力量控制，這股力量又被一個智能體不斷增強，這個智能體是如此的龐大，以至於它有能力讓生命在地球上乃至在宇宙中生息繁盛億萬年」。
回到第一個問題，外星人會不會也像「普羅米修斯」那樣通過積德行善來愚弄人類、讓其失去選擇的能力呢？《革命》這篇恰恰展示了這樣一種可能。外星人的「良好用心」是怕人類開發出可能失控的人工智能，「放大人類的不成熟」，於是耍了個障眼法，讓人類科學家貝絲誤以為創造出了人工智能，或者說，通過模擬人類期待的人工智能的行為並通過測試，外星人控制的更高層的人工智能降維成為人類認為的人工智能，而這個假人工智能讓人類遠離了戰爭，在疾病、貧窮、不公、犯罪、環境污染等方面取得了脫胎換骨的進展。當人類發現這種「幸福感」是被操縱的時，該何去何從呢？清醒的貝絲是痛苦的，她必須找到一個外星人看不見的戰場，為人類的自由而戰鬥。「只有人類，才是我們自己唯一的希望」。
什麼是幸福？白送、但無從選擇、必須接受的幸福是不是真的幸福？什麼是自由？別人給你設計的自由是不是真的自由？當搜索引擎和推薦引擎決定了我們想要看、想要買的一切，讓我們獲得得來全不費工夫的快感時，我們何嘗與《革命》中的人類有所區別？
外星人畢竟是小概率事件（解釋費米悖論的一種可能性確實如《革命》所說，它們很好的隱藏了自己），而通用人工智能正在路上。如果機器最終會自我進化，它如何決定進化目標？它的reward function（回報函數）是什麼？跟人類的價值觀是否一致？這是我們必須考慮的問題，只有一開始把「價值觀」植入，在人工智能不那麼漫長的進化路途中不斷建立路徑依賴，使其無法在後天的演化過程中顛覆或剝離該價值觀，才能確保人工智能不會發展成為賜予人類自由的偽善者。