如果你將大腦增大到一間工廠那麼大，然後漫步其中，你不可能會找到意識。
——G·W·萊布尼茲
一個人可以不斷地想起愛情？這就像是設法鼓起地窖中的玫瑰花香。你可以看到玫瑰花，但你永遠也聞不到花香。
——亞瑟·米勒8
當一個人開始最簡單地嘗試思考哲學問題時，他往往會被這樣一些問題困擾：當人明白某件事情時，他是否意識到自己已經明白？還有，當人對自身進行思考時，他想了些什麼，是什麼在進行思考。人在被這些問題困擾和折磨了很久之後就學會了不去深究：意識存在的概念完全不同於無意識對象。在說意識存在知道某件事情時，我們不只說他知道了某事，還說他知道他知道某事，還說他知道他知道他知道某事，如此往復，與我們對這個問題的關心一樣長：我們認識到，它的長度無窮無盡，但它並不是在壞的意義上無盡的退化，因為相較於這個答案，這個無盡問題是沒有意義的。
——J·R·盧卡斯，牛津大學哲學家，出自他1961年的文章\"Minds,Machines,and Godel\"9
當我們做夢時，它們很真實，但我們能說比生活更真實嗎？
——海威洛克
未來的機器將具有情感和精神體驗的能力嗎？我們已經討論了非生物智能幾種方案，用來全方位地展示生物人顯現出來的情感豐富的行為。第一種情況是，到21世紀20年代後期，我們完成了人腦的逆向工程，那將使我們開發出可以匹敵甚至超越人類的複雜與靈活的非生物系統，包括我們的情緒智力。
第二種情況是，我們可以將一個真實人類的部分上傳到一個合適的非生物的可以思考的培養基中。第三種情況是，也是最引人注目的，方案涉及逐漸的但不可阻擋的進程，從而使人類自身從生物過渡到非生物。這已經從設備的良性引入開始，如用於改善殘疾和疾病的神經植入。它與血液中納米機器人的引入一起進步。納米機器人的開發一開始將會用於醫療和抗老化應用。然後，更複雜的納米機器人將與我們的生物神經元交互，以增強我們的感官，從神經系統內部提供虛擬與增強的現實，它們可以幫助我們記憶，也可以提供其他常規的認知任務。隨後，我們將成為機器人，從我們大腦的立足點出發，我們智能的非生物部分將以指數級擴大其能力。正如我在第2和第3章討論的，我們看到信息技術的每一個方面都在以指數級增長，包括價性比、容量、採用率。由於每一bit信息計算和通信所需的質量和能量都非常小（見第3章），這些趨勢將能繼續下去，直到我們的非生物智能大大超越生物部分。由於我們生物智能的能力基本上是固定的（除了一些相對溫和的生物優化技術），非生物部分將最終占主導地位。在21世紀40年代，當非生物部分有數十億倍的能力時，我們還會堅持將我們的意識與我們智能的生物部分相聯繫嗎？
顯然，非生物實體會聲稱有情緒和精神體驗，正如我們今天所做的。他們、我們會聲稱是人類，並且有人類聲稱的完全範圍的情緒和精神體驗。而這些將不會是無根據的聲明，他們將證明豐富、複雜、微妙的行為與這種感覺相關聯。
但如何將這些引人注目的聲明和行為與非生物人的主觀體驗相聯繫呢？我們繼續回到非常真實，但最終無法計量（用完全客觀的方法）的意識問題上。人們經常談論的意識就好像有一個實體清晰的屬性，可以對其很容易地認識、發現和測量。意識問題為什麼如此容易引起爭議，如果我們可以對它做出決定性的領悟，那就是：
不存在可以最終確定它的存在的客觀的測試。
科學是客觀的測量及其邏輯的關聯，但客觀的本質是，你無法測量主觀的感受，你只能測量它的關聯性，如行為（我說的行為包括內部行為，也就是說，實體中元件的動作，比如神經元，以及它們的許多部件）。這一限制與「客觀」和「主觀」概念的本質有關。若採用直接客觀的方法，我們根本無法看穿另一個實體的主觀體驗。我們能夠對它產生爭論，如，「觀察非生物實體大腦的內部，看它的秩序多像一個人大腦裡的」，或者，「看，它的行為多像人類的行為」。但最後，這些仍然只是爭論。不管非生物人的行為如何有說服力，一些觀察家仍將拒絕接受這樣一個實體的意識，除非它噴出神經遞質，是基於DNA引導蛋白質的合成，或有某些生物人特有的屬性。
我們假設其他人是有意識的，但這只是一個假設。人們對非人類實體的意識如高級動物沒有統一的意見。思考一下關於動物權利的爭論，它將所有事情都與動物是否有意識或只是由「本能」操作的準機器。未來非生物實體展現出來的行為與智能比那些動物更加像人，到那時，在這一問題上將更加有爭議性。
事實上，這些未來的機器甚至比今天的人類更加像人。如果這看起來像一個似是而非的陳述，那麼請思考一下，今天很多人類思想都是自私而且是派生的。我們驚歎於愛因斯坦從一個思想實驗中想像出普遍相對論的能力，或者貝多芬在聽不到聲音的情況下想像出交響樂的能力。但這些最優秀的人類思想是罕見的，稍縱即逝。（幸好我們對這些稍縱即逝的時刻有記錄，這反映了我們與其他動物的區別。）我們未來主要的非生物自我將會更加智能，因此，將會把這些人類思想中的出色能力以更傑出的程度展現出來。
那麼我們將如何來對待由非生物智能主張的意識呢？從現實的角度來看，這類主張會被接受。一方面，「它們」會是我們，所以在生物與非生物智能之間不會有任何明確的區分。另一方面，這些非生物實體將非常聰明，所以他們就可以說服他們意識到的其他人（生物、非生物，或介於兩者之間）。他們將擁有所有微妙的情感暗示，這種情感暗示說服我們的今天人類他們是有意識的。他們將能夠使其他人歡笑和哭泣。如果別人不接受他們的主張，他們會很生氣。但是，這基本上是政治和心理的預測，而不是哲學爭論。
一些人還在堅持主觀體驗或者不存在，或者是一個可以忽略的無關緊要的特徵。我不同意這些人的觀點。誰或什麼是意識或者他人主觀體驗的本質，這個問題對我們的倫理、道德、法律等概念是十分重要的。我們的法律制度主要基於意識的概念，它對造成一個（有意識的）人痛苦的行為，特別是意識體驗的劇烈形式，或者結束一個人的意識體驗的行為，給予特別認真的關注。
人類關於使動物遭受痛苦的能力的矛盾心理也反映在立法上。我們有反對虐待動物的法律，特別強調規定了更加智能的動物，如靈長類動物（儘管我們關於大型動物在工廠、農場遭受的痛苦方面存在很明顯的盲點，但這是另一論文的主題）。
我的意思是，我們不能把意識問題作為一個禮貌的哲學問題而摒除。它是社會中法律和道德基礎的核心。當機器——非生物智能可以令人信服地為它自己辯論，它/他/她的感情需要得到尊重，這種爭論將會改變。當它可以用幽默感做這些時——這對使他人信服十分重要，它可能會贏得辯論。
我期望法律制度中的那種實際的改變最初來自訴訟，而不是立法，因為訴訟往往會引起這種轉變。例如，馬丁·羅斯佈雷特律師是Mahon,Patusky,Rothblatt＆Fisher的股東，他在2003年9月16日提出了一個模擬議案，用於防止一個公司從有意識的電腦中脫離。在國際律師協會會議上，該議案主張模擬生物數字準則的審判10。
我們可以衡量的主觀體驗的某些相關因素（例如，客觀可測量神經活力的特定部分，與某種主觀體驗的客觀需證實的部分聯繫在一起，如聽到聲音）。但是，我們不能把客觀的量度深入到主觀體驗的核心。正如我在第1章中提到的，我們正在處理第三人的「客觀」體驗（這是科學的基礎）與第一人的「主觀」體驗（這是一個意識的代名詞）之間的差異。
想想看，我們無法真切地感受到他人的主觀體驗。2029年的體驗束技術將會使一個人的大腦可以感受到他人的感知體驗（情感與體驗等其他方面在精神方面的某些潛在聯繫）。但是，作為一個人經歷過得愉快體驗，這仍然不能傳遞相同的內部體驗，因為他或她的大腦是不同的。我們每天聽到別人的經驗報告，我們甚至可能感到同情，以回應他們內部狀態導致的行為。但是由於我們只接觸到別人的行為，我們只能想像自己的主觀經驗。因為它可能構建一個完全一致的、科學的世界觀，省略了意識的存在，一些觀察家得出的結論是，這只是一種幻想。
傑羅恩·拉尼爾是虛擬現實的先驅，他反對那些主張主觀體驗不存在或者因為它是外圍或次要的影響，所以不重要的觀點（引自他在《One Halfa Manifesto》中所謂的「控制完全主義」提出的六個反對的第三個）。11正如我曾指出的，我們假定沒有任何設備或系統可以明確直接地與實體發生主觀（意識體驗）關聯。任何此類設備將包含一種哲學假設。雖然我不同意拉尼爾大部分的意見（見第9章），但是在這個問題上我同意他的觀點，我甚至可以想像（心領神會）到，他在面對「控制完全主義」時和我一樣的無奈（並不是說我同意這樣表述）。12就像拉尼爾一樣，我甚至接受了那些主張不存在主觀體驗的人的主觀體驗。
正是因為我們不能通過客觀的測量和分析（科學）來完全地解決意識問題，所以哲學起到了決定性的作用。如果我們完全想像出一個沒有主觀體驗的世界（只有旋轉的物質，沒有有意識的實體來體驗它），那麼這個世界也許就不存在了。在一些宗教思想的某些流派的傳統哲學中就可以看出人們是怎樣看待這個世界的。
雷：我們可以討論什麼樣的實體是有意識的或可能有意識的。我們也可以討論意識是突然產生的，還是由某些特殊的生理上的或其他的機制產生的。但是關於意識還有另一種說法，這也許是最重要的一種。
莫利2004：好的，我洗耳恭聽。
雷：嗯，我們假定所有看起來有意識的人事實上是有意識的，為什麼我的意識要和這個特別的人（我）相關聯呢？為什麼我會意識到這個特別的人，他童年時讀過小湯姆·斯威夫特的書，搞過某些發明，寫過關於未來的書，等等。每天早晨醒來，我都會有這個特定的人的體驗，為什麼我不是艾拉妮絲·莫莉塞特或其他的人？
西格蒙德·弗洛伊德：嗯，你想要成為Alanis Morissette？
雷：那是個很有意思的提議，但那不是我要說的重點。
莫利2004：你要說什麼，我不明白。
雷：為什麼我會意識到這個特別的人的體驗和決定？
莫利2004：因為那就是你啊。
西格蒙德：看起來你不喜歡你身上的某些東西，再多說一點兒。
莫利2004：以前，雷也不喜歡當人。
雷：我沒說我不喜歡當人，我說我不喜歡在人體1.0中的這些限制、問題，以及高強度的維護。但是這跟我這裡要說的沒有任何關係。
查爾斯·達爾文：你質疑你為什麼是你？這只是語義重複，沒有太多需要質疑的地方。
雷：就像許多嘗試解答關於意識的問題一樣，這個問題聽起來毫無意義。但是如果你問我，我在質疑什麼，那就是，為什麼我會持續地意識到這個特別的人的體會和感覺，至於其他人的意識，我只能接受它，但我沒有體驗過其他人的體驗，至少不是直接的。
西格蒙德：好的，我現在明白你的意思了。你沒有體驗過其他人的體驗，你曾經與某人談論過共鳴嗎？
雷：聽著，我在以一種非常個人的方式來談論意識。
西格蒙德：很好，繼續說。
雷：事實上，這個例子很好地說明了當人們談論意識時會發生什麼。討論無可避免地會轉移到其他的話題，比如哲學、行為、智能或者神經。但是我真正質疑的是，為什麼我是那個特別的人。
查爾斯：你知道是你自己創造了你自己。
雷：是的。就像我們的大腦創造了思想，思想又反過來創造了大腦。
查爾斯：因此你自己創造了你自己，可以說，那就是為什麼你是你。
莫利2104：我們會在2104年直接體驗到這一切。若成為非生物的，我可以非常容易地改變我是誰。就像我們先前討論過的，如果我願意的話，我可以把我的思維模式和其他人的思維模式合併起來，成為一種混合的個性。這會是一種深刻的體驗。
莫利2004：哦，未來的莫利小姐。我們在2004也這樣做過，我們把它叫做相愛。