在上週於比利時布魯塞爾(Brussel)舉行的年度車用感知技術研討會AutoSens Conference閉幕座談會上,有兩位熟知自動駕駛車輛(AV)內的人工智慧(AI)測試之限制所在的專家,對於長期以來車廠與科技業者都認為自駕車在不久的將來就會實現的希望,輕輕潑了一盆冷水。

美國康乃爾大學(Cornell University)電腦科學教授Bart Selman解釋,會做「頭腦體操」的思考機器,缺乏一種讓這些令人驚奇的系統做出選擇與決定的「常識理解」(common sense understanding);舉例來說,已經有超級電腦能打敗全球最厲害的圍棋棋士,「但是它沒有意識到它是在下圍棋。」

Selman表示,這種人類思考所固有的、對情境以及自我意識的「常識理解」,可能在十年之內也會出現在電腦中,但「也可能要等上20年或30年。」以情境所運作的AI驅動車輛可能性,遠比下圍棋來得複雜,除了因為AI的「常識」鴻溝,還有人類仍無力了解AI系統的「黑盒子」是怎麼想的。

Bart Selman

另一位與談專家,美國矽谷創新聯盟實驗室(Alliance Innovation Lab Silicon Valley)──由車廠雷諾(Renault)、日產(Nissan)與三菱(Mistubishi)合作成立──的Therese Cypher-Plissant,她正在為自駕車系統進行嚴苛的測試,甚至預測Level 5全自動駕駛車輛可能永遠不會被市場接受或是實現,「我不知道Level 4或是Level 5在所有的情況下是否有意義。」

Selman與Cypher-Plissant都認為,要實現廣泛有效的Level 5自動駕駛所需的公共基礎設施以及車輛對車輛通訊技術,看來還是空想。

這樣的批判帶來了讓AutoSens這樣的先進車用技術大會陷入主辦單位總監Robert Stead所說的「幻滅的恐懼」(he dread trough of disillusion);但Cypher-Plissant另一面的看法是,整體自動駕駛技術的簡短進展,包括先進駕駛輔助系統(ADAS)的改善,能大幅提高駕駛安全性,而且它們已經做到了。

Junko Yoshida

在這場由EE Times首席國際特派記者Junko Yoshida主持、題為「人工智慧安全性以及其限制」(Artificial Intelligence Safety and Its Limitations)的座談會中,問題的癥結點在於,AI系統是在它們不知道為什麼的情況下做選擇──根據大量收集與詮釋的資料。Selman表示:「車子不了解它們為甚麼要行駛到任何地方。」

Selman舉了一個醫療緊急狀況為例,來解釋自駕車系統如何會不能理解其處境:當人類駕駛載著懷孕的老婆或是受傷的小孩緊急趕往醫院,就可能會在路上超速,或是在不冒著瘋狂駕駛風險的情況下盡可能違反許多道路交通規則。但是自駕車不會辨別緊急情況與正常駕駛的不同,而且他認為:「會有很長一段時間無法讓車子理解這種情況。」

Yoshida的提問是,當遇到這樣的特殊情況,AI系統是否應該要會「求救」;對此Cypher-Plissant強調,機器應該要會說:「我需要幫忙思考。」她補充指出,要讓人們接受,技術需要可以讓人類對電腦的選擇進行「互動與反應」,並在需要時修改它們的選擇。這種功能通常被認為是Level 3自動駕駛的範疇,但事實證明,要實現非常困難。

Selman又擴大了這種難題,指出目前AI系統能在85~90%的時間內做出正確的選擇,例如語言翻譯的應用就是如此;這雖然令人印象深刻,但是「關鍵在於別忘了機器不懂語言描述的是什麼(無論是哪種語言),它們對於語言的意義毫無頭緒。」

他接著指出:「系統是基於錯誤的原因做出正確的選擇,它不知道發生了什麼事,也可能不會意識到它不知道的東西;但人類可以,機器仍距離那樣的境界非常遙遠。」

Selman與Cypher-Plissant都強調,沒有人類掌控方向盤的車子,不了解它要去哪裡而且為什麼要去,這會是自動駕駛車輛普及化的重大障礙。

Cypher-Plissant

Cypher-Plissant進一步闡釋了所謂的「人為因素」,她指出她所屬的單位,位在矽谷的聯合創新實驗室有一個人類學家團隊,負責研究當高速公路路網充滿了自駕車,人類的感受是什麼。她指出,在矽谷,「我們就是喜歡這樣具挑戰性的科技,而且我們已經接受了,但是若要說服我住在美國蒙大拿州的親戚們接受自駕車,恐怕得有好運氣才做得到。」

Yoshida又添加了一個額外的複雜性,指出就像AI系統不了解它們「思考」的理由,人類通常也忽略了AI系統內的「黑盒子」究竟是如何運作。Selman贊同這一點,表示AI演算法往往是不可能驗證的;「它們的魔力有一部份來自於我們不知道它們是如何做的。」

兩位參與座談的專家都同意,車用AI的進展大概會在可見的未來侷限在Level 3,而這已能讓下一代的車輛「足夠安全」,可能降低95%的交通意外死亡事故。

對此Yoshida的回應是,包括Tesla、Uber的公司所做出的承諾,卻都超越了95%的水準;100%就是無法達到,她很想問,「何時自駕車產業能與大眾站在同樣的水平線上?」大眾不會被愚弄,當完美變成行銷手段,「任何一樁事故都會讓進展停滯。」

Cypher-Plissant表示,這就是為什麼她的實驗室會以擁有掌控權的人類駕駛員測試每一輛車子,「只要我們感覺有什麼不對──我們知道它什麼時候會出錯──就不會等待,我們會紀錄資料,我們不會冒險。」

她的說法意味著反覆嘗試錯誤以及讓車子能感受、擁有常識的過程不可能在一夜之間發生,而會是「一段真的真的真的很長的時間;」此外,隨著研究繼續進行,法規也會浮上檯面並且大幅改變一直在很大程度上自我監督的汽車產業。

而她明確指出,像是Uber這樣急著想大量以自駕車取代人類駕駛員的公司,是在冒很大的風險;「也許有了Uber會讓你成為大贏家,但你也會成為最大的輸家。」

編譯:Judith Cheng

(參考原文:‘Common Sense’ Cools AV Ardor at AutoSens ,by David Benjamin)