來自故障率的批評

傑羅恩·拉尼爾、托馬斯·雷和其他觀察員都認為技術的高故障率是它持續指數增長的障礙。例如,雷寫道:

我們最複雜的創造顯示了驚人的故障率。軌道衛星、望遠鏡、航天飛機、星際探測器、奔騰芯片、計算機操作系統等似乎都超過了我們通過常規方法進行有效設計和製造的極限。我們最複雜的軟件(操作系統和電信控制系統)已經包含了數千萬行代碼。目前看來,我們不太可能生產和管理包含數億或數千億行代碼的軟件。32

首先,我們可能會問,雷指的驚人的故障率是什麼。如前所述,很多重要的電腦複雜系統,如控制飛機日常自動飛行、著陸的系統,在醫院監視重症監護室的系統,幾乎從未發生故障。如果有人關心到驚人的故障率,就會發現那往往是人為的錯誤。雷提到英特爾微處理器芯片的問題,但由於這些問題非常微妙,幾乎沒有引起反響,而且很快被糾正。

正如我們所看到的,電腦系統的複雜度在不斷擴大。此外,我們最前沿的努力是利用我們在人腦中發現的自組織模式來模仿人類智慧。在我們繼續逆向設計人類大腦的過程中,我們會在模式識別與人工智能工具中添加新的自組織方法。正如我討論過的,自組織方法有助於緩解對大到難以管理的複雜度的需要。我以前指出過,我們並不需要包含「數十億行代碼」的系統來模擬人類智能。

還有一點也很重要,缺陷是任何複雜過程的固有特徵,當然也包括人類智能。

《奇點臨近》