新智元報道

編輯：拉燕

【新智元導讀】

谷歌前執行長Schmidt認為，AI就像核武器一樣。你同意這個說法嗎？

把AI比作核武器，你覺得合理嗎？

谷歌前執行長Eric Schmidt將人工智慧比作核武器，並呼籲建立一個相互保證的威懾制度。

類似於核武器的那種。

人工智慧和核武器一樣危險嗎？

7月22日，Schmidt在阿斯彭安全論壇「關於國家安全和人工智慧」的小組討論中，談到了人工智慧的危險性。

在回答有關科技界道德價值的問題時，Schmidt表示，早期他自己在谷歌公司時，也曾低估了大資料的力量。

時至今日，他呼籲，科技應該要更好地符合其服務物件的倫理和道德。然後他就在人工智慧和核武器之間做了一個有些出格的類比。

Schmidt預計，在不久的將來，中國和美國需要圍繞人工智慧做點什麼。

AI和機器學習一樣，都是令人印象深刻且經常被誤解的技術。

在很大程度上，它並不像人們認為的那樣聰明。它可以製作出傑作級的藝術品，甚至在「星際爭霸II」中擊敗人類。

然而，試圖讓它完成更復雜的任務，如駕駛汽車穿越大城市，短期內還實現不了。

Schmidt想象，在不久的將來，中國和美國都會有關於AI的安全方面的擔憂，迫使兩國圍繞人工智慧達成一種威懾條約。

他類比了20世紀50年代和60年代，當時外交部門圍繞地球上最致命的武器精心制定了一系列控制措施。

但是，在全世界透過《禁止核試驗條約》、《第二階段談判協議》和其他具有里程碑意義的立法的地步之前，廣島和長崎的已經被毀滅了。

美國在二戰結束時用原子彈摧毀了兩個城市，殺死了數以萬計的人，並向世界證明了核武器的恐怖力量。

我們可以說，沒有美國這一出，人們透過上述這些條約和協議的動力可能就不會那麼強了。

隨後，俄羅斯和中國的政府便急於獲得這種武器。

目前，人類與這些武器共處的方式是透過一種叫做「相互確保摧毀」（MAD）的機制。這是一種威懾理論，內容是如果一個國家發射核彈，其他國家也將進行反制發射。

雖說人工智慧還沒有證明自己有接近核武器的破壞力。但身居要職的人害怕這項新技術，而且，通常是出於一些不那麼正確的原因。

甚至，還有人建議將核武器的控制權交給人工智慧，他們認為，理論上AI能比人類更好地決定武器的使用。

這不讓身居高位的人更害怕了嘛。

人工智慧的問題不在於它具有核武器的潛在破壞力，而在於人工智慧的好壞只取決於設計它的人，他們反映了創造者的價值觀。

這也就是典型的「垃圾進，垃圾出」的問題。種族主義的演算法造就了種族主義的機器人，所有的人工智慧都帶有其創造者的偏見。

AI是其創造者的反映

無獨有偶，Demis Hassabis，DeepMind的執行長，就這個話題可能比Schmidt還更瞭解一點。

Hassabis訓練的人工智慧正在擊敗「星際爭霸II」的玩家。7月和Lex Fridman播客的採訪中，Fridman問Hassabis，像人工智慧這樣強大的技術應該如何被控制，以及Hassabis本人如何避免被這種強大的力量所腐蝕。

Hassabis表示，「人工智慧是一個很龐雜的想法。誰來建造，這些人信仰哪種文化，他們有什麼價值觀等等，這些都很重要。人工智慧系統會自己學習……但系統中會有該系統創造者的文化和價值觀的殘留物。」

人工智慧是其創造者的反映，它不可能在120萬噸的爆炸中夷平一座城市。

除非人類教它這麼做。

參考資料：

https：//www。vice。com/en/article/3adbwy/eric-schmidt-thinks-ai-is-as-powerful-as-nukes