在全虛擬化的2021年國際消費性電子展(CES)期間，Intel旗下Mobileye執行長Amnon Shashua與《紐約時報》(New York Times)的專欄作者Thomas Friedman針對人工智慧(AI)的未來進行了一場對談；他們都同意，在「超級智慧」電腦變得比人類更聰明之前，那些機器必須要被植入與其人類發明者一致的「常識」(common sense)。

Shashua認為，如果人與機器沒有共同點，將會是「一場大災難」，而看來他在提及AI發展潛能時多次提到「科幻小說」並非偶然，因為像是Karel Čapek、Arthur C. Clarke與Philip K. Dick等作家在近一個世紀前就已經警告過讀者以及科學家們，帶著惡意的機器人若掌控了人類的命運，將會有什麼樣的危險。

Shashua舉了一個既輕鬆又有點預言意味的範例：一種設計來讓人們更開心的、「由AI啟動的非常複雜軟體代理程式(software agent)」；他假設該AI程式會「搞清楚如果降低人們的智商，他就會少一些憂慮，並可能因此變得更開心。」

他繼續指出：「這是工程師編寫AI程式時沒有預期到的，也不會很快就顯現的結果；可能得等到幾十年之後，人們的智商真的降低了…隨著時間推移，人們變得越來越笨，然後我們才驚覺這是AI出於『善意』的作為──看這會是多大的一場災難！」

當然，Shashua自己就是一個明顯的AI擁護者，因為他的公司Mobileye是智慧車用感測系統的領導供應商。Friedman就描述了他乘坐由Shashua主控、搭載Mobileye技術的自駕車在以色列耶路撒冷街道奔馳的冒險旅程：「那裡沒有兩條平行的街道…有山丘、髮夾彎、驢子、駱駝，還有各式各樣的行人…」

但Firedman興奮地表示，Mobileye的自駕技術在迷宮般的街道上暢行無阻，這需要機器與人類之間「複雜的適應性聯盟」，才能實現那樣的感測技術。他指出，實際上Mobileye與車廠福斯(Volkswagen)、耶律撒冷的猶太教導師以及以色列交通部合作建立了一個生態系統，為自動駕駛開發了一種保險協議。

Shashua與Friedman也將他們的對話延伸到自動駕駛之外，探討了隨著AI系統變得越來越普遍與複雜，技術開發者、消費者與政府主管機關所面臨的迫切挑戰。

為了形容AI的快速發展，Friedman以經典運算和量子運算之間的不同做為比喻，指出今日的AI屬於經典類別；他指出：「經典運算就像是拋擲一個25美分硬幣，0或1、正面或反面，如果你能把一個硬幣在電晶體上拋擲10億次，就具備運算與儲存功能。量子運算則像是旋轉一個硬幣，在同一個時間可以有多個狀態。」

Shashu擴充了以上的見解，表示AI第一個層次的理解是圖形辨識，是相當基本的技能；更困難的挑戰則是語言。而他指出，這樣的突破──機器能讀、寫並說故事──近在眼前。

「這不是科幻小說，在過去兩年，AI對語言的理解已經有飛躍性的進展；」Shashua表示，「在接下來兩年、最多五年，我可以預見電腦能理解文字並通過閱讀測驗。高中的閱讀測驗非常複雜，目前沒有電腦可以通過；但兩年內我相信它們可以。」

Shashua假設與一台會讀、會寫，並能詳盡分析接種新冠病毒(Covid-19)疫苗之利弊的電腦對話，電腦會告訴他是否應該去接種疫苗，還有哪一種疫苗對他最好。而AI運算能力的下一個階段飛躍，是Shashua與Friedman都提到的｢通用人工智慧」(artificial general intelligence，AGI)──即一種利用「蠻力」(brute force)的大規模運算。

AGI能模仿人類的行為與戰略、並且在不參考人類的前例之情況下構思自己的解決方案；不過Shashua指出，這種「超級智慧」(super-intelligence)既神奇又危險。而從更實際的角度，Friedman將對話轉向AI啟動、他所謂的「雙用途」(dual use)技術，並提出他稱之為「我們正在研究的，世界上最大的地緣政治與政治議題。」

Friedman提供了一幅簡單樸實的插畫：「現在，在一個快速、融合、深度世界，你擁有軟體加速以及晶片技術，所有東西都是雙用途。我的烤麵包機也是雙用途，而如果我的烤麵包機能與冰箱對話，我也可以把我的烤麵包機跟冰箱裝在你家的廚房，聽見你在說甚麼。」

他進一步指出：「所以當我們把智慧放進所有東西，它們都會變成雙用途。我們已經看到美國與世界上其他國家之間的緊張局勢，如果我把晶片或軟體賣給俄羅斯、中國或是其他國家，我如何能控制他們的用途？」

Friedman的結論是：「然後我們回到了這個價值觀的問題──我們要健康的依存關係或是不健康的依存關係？」這個問題不只適用於國家之間，也適用人類與越來越聰明(可能也越來越獨立)的機器之間。

他表示，Shashua所說的、越來越複雜的「扁平世界」與其全然令人困惑的複雜性幾乎不可比；「今日全球的複雜性更多反映了大自然的複雜性，當氣候變遷、哪個生態系能存活？是那些建立在複雜適應性系統上的。」

「在人類社會，那些社群、國家與企業──就像Mobileye的聯盟──建立了複雜的適應性聯盟以因應變化，那會在21世紀蓬勃發展；我們跟達爾文(Darwin)學到了這一點。」Friedman總結指出，全球新冠病毒疫情迫使CES取消了年度的實體展會，「因為新冠病毒，我們不是與另一個國家對抗，而是與大自然對抗。誰能獲得大自然的獎賞？不會是最聰明、最強大的，而是最具適應力的。」

編譯：Judith Cheng

（參考原文 ：Shashua-Friedman Chat: AI Is Both ‘Miraculous’ and ‘Dangerous’，by David Benjamin）

活動簡介

從無線連接、更快的處理和運算、網路安全機制、更複雜的虛擬實境(VR)到人工智慧(AI)等技術，都將在未來的每一個嵌入式系統中發揮更關鍵功能。「嵌入式系統設計研討會」將全面涵蓋在電子產業最受熱議的「智慧」、「互連」、「安全」與「運算」等系統之相關硬體和軟體設計。

會中將邀請來自嵌入式設計相關領域的研究人員、代表廠商以及專家，透過專題演講、產品展示與互動交流，從元件、模組到系統，從概念設計到開發工具，深入介紹嵌入式系統設計領域的最新趨勢、創新和關注重點，並深入分享關於嵌入式系統設計的經驗、成果以及遇到的實際挑戰及其解決方案。

贊助廠商

立即報名