不斷演進、既神奇又危險的AI…

作者 : David Benjamin,EE Times特約記者

在「超級智慧」電腦變得比人類更聰明之前,那些機器必須要被植入與其人類發明者一致的「常識」(common sense)...

在全虛擬化的2021年國際消費性電子展(CES)期間,Intel旗下Mobileye執行長Amnon Shashua與《紐約時報》(New York Times)的專欄作者Thomas Friedman針對人工智慧(AI)的未來進行了一場對談;他們都同意,在「超級智慧」電腦變得比人類更聰明之前,那些機器必須要被植入與其人類發明者一致的「常識」(common sense)。

Shashua認為,如果人與機器沒有共同點,將會是「一場大災難」,而看來他在提及AI發展潛能時多次提到「科幻小說」並非偶然,因為像是Karel Čapek、Arthur C. Clarke與Philip K. Dick等作家在近一個世紀前就已經警告過讀者以及科學家們,帶著惡意的機器人若掌控了人類的命運,將會有什麼樣的危險。

Shashua舉了一個既輕鬆又有點預言意味的範例:一種設計來讓人們更開心的、「由AI啟動的非常複雜軟體代理程式(software agent)」;他假設該AI程式會「搞清楚如果降低人們的智商,他就會少一些憂慮,並可能因此變得更開心。」

他繼續指出:「這是工程師編寫AI程式時沒有預期到的,也不會很快就顯現的結果;可能得等到幾十年之後,人們的智商真的降低了…隨著時間推移,人們變得越來越笨,然後我們才驚覺這是AI出於『善意』的作為──看這會是多大的一場災難!」

當然,Shashua自己就是一個明顯的AI擁護者,因為他的公司Mobileye是智慧車用感測系統的領導供應商。Friedman就描述了他乘坐由Shashua主控、搭載Mobileye技術的自駕車在以色列耶路撒冷街道奔馳的冒險旅程:「那裡沒有兩條平行的街道…有山丘、髮夾彎、驢子、駱駝,還有各式各樣的行人…」

但Firedman興奮地表示,Mobileye的自駕技術在迷宮般的街道上暢行無阻,這需要機器與人類之間「複雜的適應性聯盟」,才能實現那樣的感測技術。他指出,實際上Mobileye與車廠福斯(Volkswagen)、耶律撒冷的猶太教導師以及以色列交通部合作建立了一個生態系統,為自動駕駛開發了一種保險協議。

 

 

Shashua與Friedman也將他們的對話延伸到自動駕駛之外,探討了隨著AI系統變得越來越普遍與複雜,技術開發者、消費者與政府主管機關所面臨的迫切挑戰。

為了形容AI的快速發展,Friedman以經典運算和量子運算之間的不同做為比喻,指出今日的AI屬於經典類別;他指出:「經典運算就像是拋擲一個25美分硬幣,0或1、正面或反面,如果你能把一個硬幣在電晶體上拋擲10億次,就具備運算與儲存功能。量子運算則像是旋轉一個硬幣,在同一個時間可以有多個狀態。」

Shashu擴充了以上的見解,表示AI第一個層次的理解是圖形辨識,是相當基本的技能;更困難的挑戰則是語言。而他指出,這樣的突破──機器能讀、寫並說故事──近在眼前。

「這不是科幻小說,在過去兩年,AI對語言的理解已經有飛躍性的進展;」Shashua表示,「在接下來兩年、最多五年,我可以預見電腦能理解文字並通過閱讀測驗。高中的閱讀測驗非常複雜,目前沒有電腦可以通過;但兩年內我相信它們可以。」

Shashua假設與一台會讀、會寫,並能詳盡分析接種新冠病毒(Covid-19)疫苗之利弊的電腦對話,電腦會告訴他是否應該去接種疫苗,還有哪一種疫苗對他最好。而AI運算能力的下一個階段飛躍,是Shashua與Friedman都提到的「通用人工智慧」(artificial general intelligence,AGI)──即一種利用「蠻力」(brute force)的大規模運算。

AGI能模仿人類的行為與戰略、並且在不參考人類的前例之情況下構思自己的解決方案;不過Shashua指出,這種「超級智慧」(super-intelligence)既神奇又危險。而從更實際的角度,Friedman將對話轉向AI啟動、他所謂的「雙用途」(dual use)技術,並提出他稱之為「我們正在研究的,世界上最大的地緣政治與政治議題。」

Friedman提供了一幅簡單樸實的插畫:「現在,在一個快速、融合、深度世界,你擁有軟體加速以及晶片技術,所有東西都是雙用途。我的烤麵包機也是雙用途,而如果我的烤麵包機能與冰箱對話,我也可以把我的烤麵包機跟冰箱裝在你家的廚房,聽見你在說甚麼。」

他進一步指出:「所以當我們把智慧放進所有東西,它們都會變成雙用途。我們已經看到美國與世界上其他國家之間的緊張局勢,如果我把晶片或軟體賣給俄羅斯、中國或是其他國家,我如何能控制他們的用途?」

Friedman的結論是:「然後我們回到了這個價值觀的問題──我們要健康的依存關係或是不健康的依存關係?」這個問題不只適用於國家之間,也適用人類與越來越聰明(可能也越來越獨立)的機器之間。

他表示,Shashua所說的、越來越複雜的「扁平世界」與其全然令人困惑的複雜性幾乎不可比;「今日全球的複雜性更多反映了大自然的複雜性,當氣候變遷、哪個生態系能存活?是那些建立在複雜適應性系統上的。」

「在人類社會,那些社群、國家與企業──就像Mobileye的聯盟──建立了複雜的適應性聯盟以因應變化,那會在21世紀蓬勃發展;我們跟達爾文(Darwin)學到了這一點。」Friedman總結指出,全球新冠病毒疫情迫使CES取消了年度的實體展會,「因為新冠病毒,我們不是與另一個國家對抗,而是與大自然對抗。誰能獲得大自然的獎賞?不會是最聰明、最強大的,而是最具適應力的。」

 

編譯:Judith Cheng

(參考原文 :Shashua-Friedman Chat: AI Is Both ‘Miraculous’ and ‘Dangerous’,by David Benjamin)

 

 

 

加入LINE@,最新消息一手掌握!

發表評論