AI 人工智慧大爆發的時代來臨 - 明日科學

scnienews.blogspot.com

曾與電腦科學家艾倫．圖靈一起研究密碼學的英國數學家歐文．
J．古德（Irving J. Good，1916-2009）在一九六五年說出了自己的憂慮。

他在〈關於第一臺超智能機器的猜測〉（“Speculations Concerning the First Ultraintelligent Machine”）這篇論文中，針對發生超人類「智慧大爆發」（intelligence explosion）現象的可能性表示憂心，寫道：「將超智能機器定義為一切智力活動都遠遠超越任何聰慧人類的機器。由於設計機器也包含在這些智力活動中，因此超智能機器能設計出更好的機器；這勢必導致無庸置疑的智慧大爆發，而人類智力將被遠遠拋在後面。人類只要完成第一臺超智能機器，就不再需要自己進行任何發明了，但前提是這部機器要夠溫順服從，願意讓我們控制它。」

換句話說，如果人類構建出通用人工智慧（AGI，也就是知識和能力範疇都不受限的人工智慧），它應可透過工程設計能力提升自我，因此能夠反覆不斷地重新設計自己的硬體和軟體。舉一例具體說明，像這樣的 AGI 可以使用神經網路和演化式演算法製造出數百個獨立的模組，這些模塊會相互交流合作，進而提高複雜性、速度和效率。若是嘗試將有潛在危險性的人工智慧局限住或與網路上的其他部分隔離開來，很可能無法奏效，因為即使在程式設計時訂定了良善有意義的目標和任務，比方說製造更好的燈泡，要是它決定將整個北美洲都變成燈泡製造廠怎麼辦？

當然，若要說這種超級智能不太可能出現，理由也不少，例如它仍須依賴速度沒那麼快的人員和網路硬體。從另一角度來看，面對治癒疾病和解決環境問題這種與時間賽跑的危機，智慧大爆發也可能對人類極為有利。但是，智慧大爆發對人類社會整體會造成什麼樣的影響呢？如果產生了超級智慧型武器，甚至是顯得有理智且（模擬表現得）比真人配偶更有同情心的人造伴侶呢？