在中國講學期間，皮埃羅深深感受到了人工智能帶來的「陰影」，聽眾們問的最多的問題是：「電影《機械姬》（Ex Machina）中的機器控制人類的事情是否真的會發生？」或者「超人類智能是否會威脅生存？」
「我並不害怕人工智能，我反而害怕人工智能時代不能盡快到來」，皮埃羅每次都這樣笑著表示。
值得一提的是，皮埃羅在人工智能領域有一段很長的履歷。1983~1991年，皮埃羅一直擔任意大利奧利維蒂公司人工智能中心的創始總監；1984年，皮埃羅先後在哈佛大學和麻省理工學院學習人工智能；1995年和1996年，皮埃羅作為訪問學者在斯坦福大學人工智能實驗室深造。他還曾在一家名為IntelliCorp的公司工作過，該公司是硅谷最早的一批人工智能創業公司之一。如今，皮埃羅在斯坦福大學講授人工智能課程，出版過一本《智能的本質》（英文書名為 Intelligence is not Artificial： Why the Singularity is not Coming any Time Soon And Other Meditations on the Post-Human Condition and the Future of Intelligence，人民郵電出版社，2017年即將出版）的英文專著。
人工智能簡史
我為什麼不擔心人工智能超越人類
我們先從讓這個命題流行起來的奇點理論說起，奇點在硅谷都快成一種新的信仰了。埃隆·馬斯克（Elon Musk）、比爾·蓋茨，甚至斯蒂芬·霍金（Stephen Hawking）都公開表示了對人工智能的擔憂。雷·庫茲韋爾預測，機器智能會在不久的將來超越人類，創造出一種人類根本無法理解的超級智能。他預計，2027年，計算機將可以模擬人類大腦；2029年，計算機將能擁有和人類一樣的智能；2045年，當機器人的智能超越人腦智能並可以自己繁衍時，奇點就會出現。
很多人相信奇點很快就會到來，也相信如果人類與他們生產的機器完全融合，如果人的智能能夠完全轉移到計算機上，奇點就能夠讓我們實現永生。這種「信仰」是建立在五個「信條」上的。第一，人工智能正在並已經產生卓越成果；第二，技術進步在不斷加速；第三，技術正在創造超越人類的智能；第四，人類可以從比我們更聰明的機器中獲益；第五，通過圖靈測試的機器至少像人類一樣聰明。《智能的本質》一書中解釋了為什麼我不同意這五點。
第一，對「人工智能正在並已經產生卓越成果」這一事實的驗證。人們對人工智能總是過於樂觀。1965年，偉大的數學家赫伯特·西蒙（Herbert Simon）曾寫下：「20年內，機器將可以勝任人類可以做的任何事情。」這一天迄今為止還沒有到來。
人工智能始於1955年〔1950年，阿蘭·圖靈（Alan Turing）提出了機器能否思考這個命題，編程語言LISP的發明者約翰·麥卡錫（John McCarthy）在1955年提出用「人工智能」定義該領域〕。最初，神經網絡是最受青睞的技術，但是，我們的大腦有成千上萬的神經元，要建造和模擬那樣巨大的神經網絡幾乎是不可能的任務。
因此，神經網絡很快被另一種被稱為「基於知識」的技術所取代了。理解這種「基於知識」的人工智能最簡單的方法就是弄明白信息和知識的區別。在一個基於信息的系統裡，一定有一個包含問題答案的數據庫。比如，當有人問：「誰是美國的總統？」或「羅馬在哪裡？」這個系統會從數據裡查找出「奧巴馬」和「意大利」。但是，如果有人問：「你認為下一任總統會是誰？」或者「亞特蘭蒂斯（傳說沉沒於大西洋的島嶼）在哪裡？」基於信息的系統就無法運轉了。此時，就需要基於知識的系統來「思考」，這個系統需要利用所有已有的知識來「猜」出問題的可能答案，就好像我們人類那樣。
這種基於知識的人工智能一直流行到20世紀90年代。實際結果卻一直不盡如人意，因為給人類的龐大知識體系編碼是一件無比困難的事。因此，人工智能在那段時間備受冷落，被認為只不過是不切實際的理論研究而已，人工智能進入了「冬天」。
我認為人們重新開始相信「人工智能」是從2011年開始的，這一年，IBM的超級計算機「沃森」（Watson）擊敗了哥倫比亞廣播公司著名智力競賽節目《危險邊緣》（Jeopardy）的人類冠軍，人工智能一時名聲大噪。
2012年，吳恩達（Andrew Ng，現為百度首席科學家）領導的「谷歌大腦」項目，讓機器系統能夠以非常低的錯誤率在海量圖像中識別貓，2012年也因此被我們看成人工智能領域真正的里程碑。
這是如何實現的呢？圖片網站ImageNet（http://www.image-net.org/）是一個被人們貼好標籤的海量圖片數據庫，每年，來自全世界的人工智能團隊都會進行圖像識別競賽，並根據錯誤率打分。2012年，一種新的技術「深度學習」 〔通常來說，大家認為深度學習的觀點是傑夫·辛頓（Geoffrey Hinton）在2006年提出的，他在神經網絡領域進行了長達30年的研究〕使得圖像識別的錯誤率迅速下降到一個很低的數值，並在之後不斷下降，甚至接近人類的水平。
2014年，斯坦福大學以人工智能實驗室主任李飛飛（Feifei Li）為主導的科學家團隊開發了一個機器視覺算法，該算法能夠通過對圖像進行分析，然後用語言對圖像中的信息進行描述。在此之前，其實已經有可以識別人臉的軟件算法，但是斯坦福大學的系統（同時期的項目還有雅虎的Flickr）可以識別出圖像中的場景，比如兩個人在公園裡玩飛盤等。
可以說，傑夫·辛頓等人在基於神經網絡的基礎上提出深度學習後，人工智能才再次流行，因為它確實能夠識別人臉、聲音乃至場景了！
人工智能近年來引人關注的還有「圖靈測試」的突破。1950年，阿蘭·圖靈在一篇論文中提出了機器能夠騙過人類，讓人類誤以為機器是人類的想法，這是「圖靈測試」的本體。圖靈認為，如果30%的被測試人都不能區分放在黑箱子裡的機器到底是人還是機器時，這台機器就通過了圖靈測試。
2014年6月7日，聊天程序「尤金·古斯特曼」（Eugene Goostman）在英國皇家學會舉行的「2014圖靈測試大會」上冒充一個13歲烏克蘭男孩騙過了33%的評委，通過了圖靈測試。這並不是計算機軟件第一次成功騙過了很多人，但這是人類第一次可以在測試中隨意提問任何問題。
2016年，谷歌的AlphaGo（阿爾法圍棋）戰勝人類圍棋冠軍帶給世人一陣驚呼。
人工智能目前的局限
這些「成就」真的非常了不起嗎
和早期電腦能夠做的事情相比，機器今天確實可以識別語音、人臉、圖像乃至場景，識別一隻貓確實讓人印象深刻。但總的來說，我對人工智能這些年取得的成就的看法與那些新聞頭條正相反。
在說AlphaGo之前，先從人工智能可以識別圖片上的貓這個「大新聞」說起，谷歌的團隊需要將16 000個計算機處理器連接起來，構建一個超大規模的神經網絡，還需要讓它事先看過海量的貓的圖片，結果是，它對貓的判斷準確率實際上比小孩還低。再對比一下，一隻老鼠要花多長時間去識別一隻貓呢？
美國國家航空航天局的火星探測器「好奇號」（Curiosity Rover）是目前最高端、最昂貴的機器人之一，自2012年8月降落火星開始探測任務以來引來大量媒體關注。但是，2013年，美國國家航空航天局的一個行星科學家克裡斯·麥凱私下裡跟我感慨，「『好奇號』要花200天做的事情，人類研究者一個下午就能輕鬆搞定」。
再比如，2014年，日本研發出一個騎自行車的機器人primer V2，很快就在媒體上火了起來。各大媒體紛紛對這個機器人能夠像人一樣靈活地拐彎、雙腳著地剎車、舉手與人說「嗨」等驚呼不已。其實，這有什麼稀奇呢？看起來像人的機器模仿人做的事情，古時候就有這種發明了，尤其是中國的古時候！
大部分這些進步其實都是圍繞「識別」做文章，也大都發生在神經網絡領域。神經網絡的局限性是，它背後是「模式匹配」的運作原理，真正的含義還是「識別」，這意味著要很好地利用基於神經網絡的深度學習技術，你需要把你所有的問題轉換成一個「識別」問題，這不是不可能，只是讓人感覺有些怪，比如，你需要把誰將是下一任美國總統的問題轉換成一個模式識別問題。
神經網絡用的是數據統計方法，只有已經具備了很多案例，然後再「猜」下一個案例時才能良好運行。翻譯軟件就是個很好的例子，它會自動翻譯不是因為它真的掌握了這門語言，而是每當有人給出新的句子，它就從成千上萬已經被別人翻譯好的數據庫裡「學習」，根據已有的翻譯來「猜」這一句的意思，意思就是「識別」出最有可能的已有翻譯。
統計的方法能產生一個合理的結果，但它永遠不知道為什麼。這也是為什麼機器由此學習到的技巧不能應用到其他領域。當今世界最著名、最具影響力的哲學家之一約翰·塞爾（J.R.Searle）一直堅持認為，不管機器看起來能做什麼，那都不是它做的，即機器根本意識不到自己做了某事。塞爾在1980年用「中文書」的例子來說明，如果你給我一本包含幾乎所有關於中國問題的答案的書，然後你用中文問我一個問題，我可以從書中找到正確的答案。但是，我仍然不懂中文。也就是說，當我用中文回答你時，我實際並不是用中文回答你。
人工神經網絡的應用也是如此：計算機可能會找到正確的答案，但它不知道為什麼。翻譯軟件可能會正確地將英文翻譯成中文，但它仍然不懂英文，也不懂中文。
也就是說，我們可以教會神經網絡識別很多東西，卻無法教會它們理解這些東西的含義，更談不上讓機器具有人類敏銳的洞察力。比如，機器可以識別出「有人在商店裡拿了一件東西」，但他們什麼時候可以識別出「有人從商店裡偷了一件東西」？但人類可以通過看同樣的照片分辨出小偷在商店拿東西和顧客正常購物的區別，這種能力我們根本無法訓練人工神經網絡來實現。
再比如，自動翻譯軟件可以語調不改地翻譯出「這裡有炸彈」，而懂外語的翻譯者只要看一眼這個句子，就會臉色大變，馬上大喊「所有人快出去！」
神經網絡之所以在20世紀60年代被遺棄是因為當時沒有足夠快的電腦，隨著電腦的普及和運算速度的不斷提高，如今的神經網絡才有能力來執行大規模計算。某種程度上，「深度學習」是被便宜的計算能力成就的。當然，神經網絡的算法也有很多進步，傑夫·辛頓和其他研究者不斷在開發更加高效的算法，但如果沒有成千上萬的計算機來完善神經網絡，這一切都將無從談起。
號稱在電視益智節目中打敗人類冠軍的IBM計算機沃森需要85 000瓦特的能量。谷歌AlphaGo確實戰勝了人類圍棋冠軍，但是鮮有人注意到，AlphaGo需要消耗440 000瓦特的計算能量。即便如此，除了會下圍棋，AlphaGo還會做什麼呢？相比之下，人類大腦將驚人的計算能量裝入一個狹窄的空間，只使用了20瓦特的能量，而且，人類的大腦還能做其他數不清的事情。如果有人能使用20瓦特的能量製造出一個能同時做兩件事的機器人，我才真的覺得了不起，才是不可思議的大進步。注意不能作弊，不能把掃地的機器人和做三明治的機器人放在一個大鐵盒裡，就宣稱機器人能做兩件事了，我們人類可沒有長出一百萬個大腦來做一百萬件事情。
靠大量計算能力取得的成果稱不上多有創意，有時候我開玩笑說這是「摩爾定律的詛咒」。過去在人工智能領域的科學家不斷有很多有趣的、富有創造性的想法湧現，因為當時的電腦運算速度慢、體積大且價格不菲，要想讓它變「智能」必須絞盡腦汁地想盡各種方法。
我對此體會尤其深刻。20世紀80年代我們做人工智能研究時，哪怕非常簡單的「推理」都需要龐大且貴重的機器，有時甚至需要一些專業機器，比如LISP機（20世紀70年代進入市場並廣泛應用的人工智能機，一種直接以LISP語言的系統函數為機器指令的通用計算機），然而很多實驗依然很難開展，尤其是在神經網絡領域。但如今的人工智能創業者可以使用計算能力快、價格也便宜的機器，可以將很多機器並聯起來測試非常複雜的模型，他們不需要多有創意就可以取得很大的進展。
如今的超級計算機能用很簡單的方法迅速找到問題的答案。實際上，靠搜索引擎基本上就可以找到大部分問題的答案，簡單到人們已經不用思考，不需要有多少創意。在某種程度上，這種強大的計算能力正在讓人們失去用更有創造性的方法完善智能機器的動力。而且，即便這種「暴力破解」（brute force）的方法，也很快要面臨瓶頸了，「摩爾定律」正在面臨挑戰，電腦計算能力的提升並不會像人們想像的那樣繼續一路高歌猛進。
深度學習如今變得如此流行，AlphaGo的輝煌戰績也是深度學習成就的。但是，如果認真分析深度學習的這些成功案例，你會意識到，它們的成功除了依賴大量的高速計算機處理器，還依賴海量的大數據，即人類提供的學習樣本。成功識別貓的故事是在ImageNet這個圖片大數據庫之後才成為可能的，AlphaGo的成功也是基於收集整理了人類圍棋大師們積累下來的成千上萬的著數。
總的來說，「深度學習」本身沒有問題，我只是不確定放棄基於知識的方法是對的，就好像過去我一直反對放棄神經網絡。比如，使用「深度學習」的方法來猜誰是下一任美國總統時，根據之前的美國總統的名單並不能猜出答案。人們的常用方法是分析所有正在競選美國總統的政治家的情況，然後花上好幾個小時乃至好幾天來爭論誰會是下一任，我們此時的推理是就基於知識的。
然而還有常識問題，我們日常做的大部分事情都是不經過思考的，天熱了就少穿點衣服，下雨了就拿起雨傘，在別人傷心的時候說安慰的話，在別人開心的時候微笑等，很多認知和行為都已潛移默化為常識的一部分。而很多動物行為能把人逗笑恰恰是因為它們缺乏常識，比如小貓對著鏡子裡的自己又抓又咬等。但是，要將這種我們人類看來是小孩子都知道的事情教給機器是難之又難的。
顯然，和人類的大腦相比，我們離製造出真正智能的機器還差十萬八千里。我們製造出的充其量是越來越好的電器產品而已，洗衣機、電冰箱、微波爐、下象棋的深藍、下圍棋的AlphaGo……它們都只能做一件事情，只不過比人類做得更好更快而已。
技術到底進步了多少
技術進步在不斷加速。這是奇點理論很關鍵的一個支撐點。當今的各種技術進步如此之快，且還在不斷加速，機器會越來越智能和強大。果真如此嗎？
我們過去就已經有比今天更令人震驚的技術進步了。1880~1915年，汽車、飛機、電話、收音機、錄音機以及電影逐一被發明出來。突然之間，人們就可以「飛」了，就可以跟千里之外的朋友或家人說話了，人們可以用錄音機欣賞已經逝世的歌手的音樂了……這些對當時的人們來說，肯定像魔法一樣神奇，其實這些發明都是在短短30多年裡出現的。而同一時期，量子力學和相對論也相繼問世。
當然，技術一直在進步，但你真的確定今天的技術相比過去進步了很多嗎？1886年，德國人卡爾·本茨（Karl Benz）造出了世界上第一輛汽車，47年後（1933年），美國已擁有2 500萬輛車，整個世界已大概擁有4 000萬輛車。1903年，懷特兄弟發明了第一架飛機，在第一次世界大戰（1915~1918年）的短短三年裡，人類已建造了超過20萬架飛機。47年後（1950年），全世界已有3 100萬的人乘坐飛機。
1969年，人類首次成功登陸月球，47年後的今天，有幾個人成功被送到其他星球了呢？1969年，超音速飛機協和號被發明出來，不幸的是，它甚至都沒能繼續運行到今天（協和號飛機1969年研發成功，1976年投入商業運行，2000年7月25日，協和號客機班機AF4590發生爆炸後，所有協和號飛機受此影響，於2003年退役）。再來看下人工智能，1969年，斯坦福國際研究所（Stanford Research Institute，SRI）研製了移動式機器人沙基（Shakey），47年後的今天，又有多少人擁有一台機器人呢？
我甚至不確定今天的大部分技術進步相比之前有什麼特別。當然，我們的生活因為技術發生了很多改變，但改變不等於進步。有時候一些看似重大的改變只是市場需求創造出的一些新時尚，或只是商業模式的改變而已，這些改變也許是「進步」，然而，它們主要只讓少數幾個大公司受益。到底是誰的進步？真的是人類社會的技術進步嗎？
比如，谷歌是目前人工智能領域最大的一家公司，它研發的無人駕駛汽車真的是很了不起的進步嗎？確實能讓人類的交通更安全嗎？
相反，它恰恰說明了高科技公司跟現實世界的距離有多遠。
首先，如今很多機器的「智能行為」其實是由於人類已經將機器周邊的環境改造得近乎完美，即使白癡也能在那樣的環境中工作。2014年12月，谷歌宣佈第一部具備完整功能的無人駕駛原型汽車已經製造完畢，並於2015年夏天在加州的公路上完成了測試。當我們為無人駕駛的高科技和人工智能的進步歡呼時，鮮有人關注到的是，無人駕駛汽車只能在高度優化的道路上運行，加州極其優良的道路條件、GPS、雷達、監控裝置等組合在一起，只要是正常人都能輕鬆地駕駛。
其次，交通問題是世界上每個國家的主要問題，交通堵塞的問題從加勒比島到北京都是一樣的。無人駕駛車一定會加劇交通堵塞，而非減緩。因為今天不想自己開車的人也許明天就會買一輛無人駕駛車上路了。
幾乎每次有人想要「最優化」駕駛過程都會導致更擁堵的交通。比如，你在舊金山至少可以通過四種服務來共享一輛車，這幾家公司分別是City CarShare、ZipCar、RelayRides和Getaround。結果是，原來乘坐公交車和地鐵的人們也紛紛開始用汽車上班了。優步（Uber）和Lyft在本就十分擁堵的路上又增加了上千輛車。「分享車」的初衷本是因為車是有價值的資產，不應該在閒置的時候被「晾」在車庫裡。但是，每一輛駛出車庫的車都在增加道路交通的壓力，並帶來更多污染。
最後，無人駕駛車的支持者總是堅信它可以減少車禍，拯救生命。然而，2016年初，谷歌無人駕駛汽車向美國機動車管理局提供了無人駕駛汽車的最新報告。報告顯示，其公司的無人駕駛汽車在14個月的測試中遇到了272樁意外事件，如果沒有人類駕駛員隨時待命準備接手，這些意外會發展得更嚴重。百度無人駕駛汽車也在2015年12月初完成了北京開放高速路的自動駕駛路測，但需要注意的實際情況是，它要求兩個人坐在車內，一人負責隨時接手，另一人負責監測車輛運行情況。
如果真的要減少車禍，火車、地鐵和公交車等公共交通的安全性比汽車高多了，我們應該想辦法讓更多的人使用公共交通出行，而不是製造更多的汽車。
讓人感慨的是，我們身處在一個社會學家們探討媒體已經大大延伸了人們獲得信息的範圍的時代，結果卻是，人們在車上裝置了各種溝通、娛樂和電子商務等設施，汽車逐漸變成人們的第二個家，或者說生活的第二個中心。人們越來越熱衷於將自動駕駛和各種電子裝備都配置到汽車上，未來是不是會發展為我們將80億人都放到路上，甚至包括老人和小孩呢？
那麼，今天那些層出不窮的新發現、新成就到底是從哪裡來的呢？簡單來說，我們今天的大部分進步其實都源自過去的創意，今天能夠實現無非是因為強大而便宜的計算能力。
我們一直在研發和改進能讓機器人更好「識別」而不是「思考」的能力。這也是為什麼機器人一直缺乏常識。如今機器人的靈活性確實有了極大的進步，那是因為傳感器和電子產品的價格一直在下降，人們可以將大量的傳感器內置到機器人的「手臂」裡，直到它們的機械「手臂」能跟人類一樣靈巧。
2015年電氣和電子工程師協會（IEEE）在西雅圖舉行的國際機器人與自動化國際會議（ICRA）上，很多機器人挑戰賽備受關注，如「類人類應用挑戰」（創造人形的機器人來完成特定任務）以及「納米機器人挑戰賽」等。我最感興趣的是亞馬遜的機器人分揀大賽，它要求參賽機器人從事先準備好的貨架上成功取下一些日常用品，並把它放到附近桌子上的籃筐裡。測試的物品包括網球、筆筒、玩具和一些書籍，將這些物品成功移動到桌子上就會得到相應的分數，如果物品在移動的過程中出現掉落、損壞等情況則會扣分。
參賽機器人的手臂確實已非常精巧，參賽的RBO團隊在20分鐘內移動了12件物品中的10件，由此獲得大賽一等獎。然而，與人類的效率相比，機器人仍差得很遠，這也是亞馬遜暫時不會使用這些機器人的原因。
加州大學伯克利分校的彼得·阿貝爾（Peter Abbeal）也展示了機器人折疊毛巾的視頻，看起來確實很精彩。但是，仔細想下，機器人並不是真的在「疊毛巾」。人類在做同樣的工作時會把濕的、髒的或有破損的毛巾放到一邊，機器人可不管，它會把所有干的、濕的毛巾放在一起疊好。也就是說，疊毛巾這樣簡單的事情也有特定的情境要求，如果你沒法理解到底是什麼情境，即便你是世界第一的疊毛巾能手也會顯得特別愚蠢。
此外，媒體宣傳較少的仿生學有不少進步，它本身並不要求有多智能，卻能極大地提升我們做事情的能力。
超人類智能早已存在
支撐奇點的第三個信條是「技術將創造超人類智能」。我想說的是，超人類的智能早就已經存在了，我們周圍比比皆是。蝙蝠能在黑暗中以極快的速度避開障礙物；鳥類被賦予了神奇的「第六感」，在尋找遷徙地和預知災難時有不可思議的能力；還有一些動物具有偽裝的能力，能夠改變自己皮膚的顏色……大部分動物都能夠看到、嗅到、聽到人類看不到、嗅不到也聽不到的東西，它們在執行特定任務時的智能水平早就遠遠超過了人類。
此外，我們身邊的很多機器早就能做人類做不了的事情。最簡單的例子比如鐘錶，一千年前就被發明了出來，一直都在做著「計時」這件人類無法完成的任務。我不太確定奇點所說的超人類智能到底是什麼，非人類智能與超人類智能又到底有什麼區別？我們身邊不是早就已經有了很多非人類又超人類的智能嗎？
很多人也許會反問說，我們並不擔心動物和其他早已存在的機器，是因為人類能夠控制它們，但是機器智能有可能失控。
你確定嗎？人類以為自己能夠控制一隻蝙蝠，事實是，所謂的「控制」經常等同於「殺害」。沒錯，我們同樣也有能力殺死更強大的動物，但我不確定這就意味著我們比它們更聰明。難道獅子能殺死羚羊就意味著獅子比羚羊更聰明嗎？
再比如鐘錶，人類真的能控制鐘錶嗎？你確定不是鐘錶在控制人類？難道不是鐘錶在決定你每天何時起床、何時上班又何時下班的嗎？人類確實設定了時間，但你同時也可以說是鐘錶「要求」人類來設定。正如我們在一開始談論技術時提到的，一些哲學家很早就有了技術利用人類來進化的觀點，比如我最喜歡的法國哲學家讓·鮑德裡亞。
再看奇點最讓人害怕的地方：超級智能的機器能夠控制甚至殺死人類。確實如此嗎？
所有的技術都能殺死人類。強大的原子能量能殺死人類，變質或有毒的食物也能殺死人類，全世界每年的車禍更是不計其數，即便抽煙過度也有可能致命。每個人都有選擇的自由，都可以在使用技術時權衡利弊。
即便是在日本福島的核反應堆發生洩漏之後，我個人依然很喜歡核能，因為它是優質的清潔能源。當然，核爆炸能在很短時間內對人類造成巨大的損害，但我並不會因此就害怕核能。我更感興趣的是，如何保證類似福島這樣的災難不會再發生；我更感興趣的是，如果災難真的發生了，我們又如何利用技術迅速將傷害清除或降到最小。
害怕人工智能的人們還喜歡持有這樣一種論調：猩猩永遠不可能比人類更聰明，因為它們沒有跟我們一樣的大腦，但現在人工智能在做的事情是試圖複製人類的大腦，今天我們可以複製小蟲子的大腦，明天我們可以複製鳥類的大腦……總有一天我們能複製出一個智能等同人類的大腦，這個大腦就會再接著演化出智能遠超人類想像的「超級智能」。
對此，我的看法是一樣的。這個觀點設定的前提是我們的大腦比所有動物的大腦都更強大、更聰明、更智能。事實卻是每種動物都有特別擅長的領域，很多種動物的大腦都能處理人類處理不好的事情。比如，有些恐怖分子打著「上帝」的旗號把自己變成自殺式人肉炸彈，自取其亡的同時還殺死了很多同類，卻從心底堅信自己由此可以進入「天堂」，你確定這種行為比猩猩更聰明嗎？我可從來不認為猩猩會像人類這麼蠢！
我們認為自己的大腦比動物更優越無非是因為我們有能力殺死它們。在殺害動物和破壞環境這一點上我們確實很擅長。幾乎找不到任何一種像人類這樣熱衷於殺戮其他動物和不斷破壞環境的物種了。如果人工智能真的在複製人類的大腦，那它一定也會複製一個同樣熱愛殺戮和破壞的大腦。
所以，我實際上希望人工智能不要簡單去複製人類的大腦，能不能去創造一個更好的呢？或者說，我希望人工智能可以去創造一個「最好的大腦」，一個能夠向所有物種學習它們最好一面的大腦。我確定想要一台能夠在黑暗中自由飛行，又擁有超強嗅覺的機器，我可不想要一台以上帝的名義將自己變成自殺炸彈的機器。
總之，在很多情況下，我都寧願一台機器表現得更像大猩猩，而不是更像人類。我希望人工智能可以讓世界更加安全、乾淨和美麗，而不是造出更多重複人類已有錯誤的機器來。
人類智能的退化才值得憂慮
支撐奇點理論的第四點是，「人們可以從比我們聰明的機器中獲益」，即達到永生。而在我看來，人工智能的發展讓我更擔心人類智能的未來，而不是擔心機器智能的未來。
圖靈測試提出的問題是「什麼時候機器才能和人類一樣聰明」？我總是開玩笑說，要達到這個「臨界點」有兩種辦法：一種是讓機器更聰明，另一種則是讓人類變得更傻！如果機器變得稍微聰明了一些，而人卻變得比以前蠢多了，那我們當然很快就會擁有比人類更聰明的機器了。
這種危機正在上演：不是我們在創造過於聰明的機器，而是我們在創造更加愚蠢的人類。人們不斷製造著讓自己變得退化、多餘乃至愚蠢的工具。事實上，很多高科技的項目不是依賴更聰明的技術，而是依賴更傻的用戶。這些項目不斷要求我們變得跟機器一樣，說著一門「機器語言」，表現出機器才有的行為，以便跟我們周圍越來越多的機器互動。
「自動化」的真實含義是什麼呢？通常情況下，可以被「自動化」的工作往往要求用戶接受一個質量更低（而不是更高）的服務。你周邊的一切自動化程度越高，意味著你越是需要像個機器一樣跟環境互動。
我看到的不是機器變得更聰明了，不是它們在努力學習和理解人類的語言。恰恰相反，是人類經常為了得到自動化的機器支持，已經習慣了像個機器一樣說話，大多數時候人們連話也不用說，只要敲擊鍵盤就可以了。
大多數電話或網站首先會要求用戶輸入一系列數字（賬號、密碼），因為我們是在跟機器對話，機器能夠執行任務不是因為它們使用了人類的語言，而是因為人類使用了機器的語言。形形色色的規則、規章制度也正在不斷將我們變成機器，我們必須遵守冗長呆板的順序才能滿足哪怕很簡單的需求。
當我們談論人工智能的時候，我擔心的是，人類朝機器進化的速度比機器朝人類進化的速度快多了。這也是我為什麼不擔心奇點，卻擔心現在的人們因為技術變得更蠢而不是更聰明。比如，智能手機可以讓你更快更好地做很多事情，但很多人完全浪費了它的潛能，大多數時候他們只是用它來刷微信朋友圈。
支撐奇點理論的第五點，「通過圖靈測試的機器至少像人類一樣聰明」，確實如此嗎？
圖靈測試並沒有對誰應該是評委做出界定。英國皇家學會舉行的「2014圖靈測試」大會上，按照大會規則，某台計算機被誤認為是人類的比例超過30%，那麼這台計算機就被認為通過了圖靈測試。結果，33%的英國皇家學會的評委都被計算機成功騙過了。如果將英國皇家學會的評委換成其他人呢？有沒有可能換成一批比之前更聰明的評委呢？我們需要用更好的辦法衡量機器的智能，整個圖靈測試的定義其實是非常含糊的。
人工智能的未來是「增智」
人工智能的未來到底會是什麼
人工智能是一種非常有用的技術，僅此而已，就好像其他有用的技術一樣，如蒸汽機、電視機、GPS等。所有這些技術都可以讓我們做一些新的事情。
人工智能不會生產出像人類一樣的「智能」，而是會不斷提供非常有用的技術和新東西。吳恩達是對的，技術對人類來說一直都是合作夥伴，而不是替代品。每一種新技術都會給人類創造更好的工作。
「鼠標之父」道格·恩格爾巴特（Doug Engelbart）是硅谷最有影響力的人之一，他生前一直傾向於使用「增智」而不是「人工智能」，他認為機器會讓我們的智能更強大。
這一點在仿生學上表現得尤其明顯。人們似乎總是將智能機器作為單獨的實體來討論，其實，在用機器來完善、加強人體，而不是取代人體上我們已經有了很大的進步。仿生學的歷史從1961年人們將第一個電子芯片植入人類耳朵的時候就已經開始了。1965年，家何塞·德爾加多（Jose Delgado）通過遙控電子裝置向一頭公牛的大腦發射信號，以此控制牛的行為震驚了世界。1998年，菲利普·肯尼迪（Phillip Kennedy）發明了一種可以捕獲殘疾人「意願」的大腦植入物，以此來移動手臂。
2000年，杜伯利（William Dobelle）的小組發明了一種視覺移植系統，可以讓盲人看到外面景物的輪廓。2006年，阿馬爾·格拉夫斯特拉（Amal Graafstra）躥紅，因為他的雙手植入了微小的無線電頻率辨識芯片，一隻手可以連接到智能手機上儲存和更新數據，另一隻手只要一揮就可以打開前門，再一揮就可以登錄電腦。
2013年，杜克大學醫學中心神經生物學家米格爾·尼科萊利斯（Miguel Nicolelis，他可能是這個領域最知名的研究者）讓兩隻老鼠捕捉對方的「想法」並用互聯網傳送給對方，以此實現溝通。現在尼科萊利斯正試圖連接猴子的大腦，這樣他們就可以合作完成一項任務。同一年，華盛頓大學的羅傑西·拉奧（Rajesh Rao）和安德裡亞·斯托科（Andrea Stocco）讓用意念控制他人身體變成了現實，他們發明了一種方法，可以讓拉奧的腦信號通過互聯網傳遞到斯托科的手上，拉奧可以讓斯托科的手移動起來，這是第一次人類可以控制其他人的身體。2014年，截肢者丹尼斯·阿波從思爾維斯特羅·米克拉（Silvestro Micera）的研究團隊接受了一隻機械手，這隻手能夠向神經系統傳遞電子信號，創造出觸感。
半機器人時代已經到來，這不是什麼壞事，就好像我們現在戴眼鏡和使用助聽器一樣。我甚至覺得，神經植入物可能會在人工智能之前改變很多人的生活。