汽車產業正歷經電子產業帶來的「顛覆性」(disruption)發展,但也即將出現一些危險且不負責任的情況。隨著汽車製造商及其高科技供應商賦予車輛日益提高的自主性,他們正朝著使自己免於為其產品承擔所有責任的方向邁進。

例如,特斯拉(Tesla)及其支持者們目前正推動的方向。這是令人無法容忍的行為。

許多企業長久以來一直在操作逃避其法律責任的技巧。例如,還有人不知道什麼是「風險自負」(use at your own risk)的警告嗎?廚房餐具、遊樂場設施、縫紉機等等,許多產品都存在某些固有的危險因素。期望人們謹慎使用此類產品並對使用時發生的後果負責是絕對合理的。

還有其他的產品,例如電鋸、武器和化學噴劑等,如果操作不當,不僅會對使用者構成威脅,也可能危及其他人。即便如此,操作人員仍然要承擔很大的責任——但同樣地,這很合理。作為該責任歸屬的一部份,期望使用者妥善維護此類產品,以使其正常運作且保持安全——例如定期上油、卸載存放以及按指示使用,同樣也很合理。

此外,還有一個單獨的類別保留給產品的尺寸太大、複雜且精密以至於其安全作業超出操作人員的控制範圍——包括過於複雜以至於無法期待使用者妥善維護和完全負責的系統,以及對於任何人碰巧(故意地或巧合地)經過、在其上或附近都可能造成危險的產品。對於飛機的責任當然不僅限於飛行員,還包括地勤人員、航空公司、機場、製造商以及政府監督人員。例如,對於炸藥和爆破專家、建築起重機及其操作人員而言,情況也是一樣的。

長久以來,車輛一直屬於「如果操作不當可能危及他人」的產品類別。大多數情況下,每一位駕駛人都應該自己對車輛的駕駛、操作和維護負全部責任。

但是,在增加自動駕駛功能後,機動車輛將會(或者應該)轉變為第三類。具有自主性的車輛變得過於複雜,無法再僅由駕駛人自行負責。而那就是矽谷最糟糕之處。

Exploding cigar

多年來,技術產業己經取得了非凡的成就:它將客戶視為白老鼠,但這也換得了客戶的滿意。有成千上萬的人——智慧型手機用戶和遊戲玩家,都渴望成為產品的beta測試人員,他們甘於冒著軟體和硬體存在缺陷的風險,只為了換取在產品上市前搶先其他消費者使用產品的快感。

行動應用程式(App)的文化讓消費者普遍接受了軟體錯誤。「有bug嗎?應該會有人回報這個問題,隔一天就會修補程式了。沒問題啦!」當然,同樣的文化助長了一些公司容忍草率地編寫程式碼,以及在產品測試時採取輕率的態度。「當然都會有一些bug啊!反正又沒人在乎!我們稍後再修補就好了!」

這種事後修復的心態也被接受了,特別是針對軟體產品。

就算存在很多bug的軟體也不至於對消費電子裝置造成太大的損害。但是,車輛(或其他自動駕駛系統)中佈滿錯誤的軟體可能導致人身傷害或甚至死亡。只是那些技術怪客們似乎輕忽了這種關鍵區別,甚至將事後修復(fix-it-later)途徑作為技術進步的原動力而忽略了。

但事實並非如此。讓存在缺陷的產品商業化不僅草率而且不負責任。這種輕率和不負責任的行為卻一直被容忍著,甚至還被大家接受了,只因為它並沒有(或說尚未)造成任何嚴重的後果。

本刊編輯Junko Yoshida曾經在一篇文章中介紹特斯拉的「智慧召喚」(Smart Summon)功能。Smart Summon已經算是第4級(Level)的自動駕駛功能了,通常意味著OEM (在本例中為Tesla)必須對於車輛啟動後所發生的任何錯誤承擔主要的責任。但是,特斯拉卻將它添加在Level 2的車輛上,假裝是Level 2的功能,這表示特斯拉想要將發生任何錯誤的責任轉嫁至客戶身上。Semicast分析師Colin Barnden告訴Yoshida,他認為Smart Summon只是一種行銷噱頭,目的只是想炫耀(這一段對話請參考《EE Times》最近的podcast: AVs and the Blame Game ․ Indian IC Industry Ascendent ․ The Artistry of AI)。

但我的看法更傾向於「陰謀論」。這是一種噱頭嗎?沒錯,但就「只是」一種噱頭嗎?我可不這麼覺得。我認為,特斯拉正在考驗我們對於特斯拉將應承擔的責任轉移給駕駛人的容忍程度。

到目前為止,從特斯拉粉絲的反應來看,這種手法還蠻管用的。

高科技產業擅長的最陰險手法之一就是實施「使用者授權合約」(end user licensing agreement;EULA)。EULA往往是那種好幾頁集結各種枯燥乏味的法律術語之作,其中許多術語通常是那些在產品的功能或操作中出現任何缺陷時想完全擺脫任何責任、義務或過失的公司所專用的。因為內容實在讓人看不懂,幾乎也沒有人會認真閱讀,但又必須同意,因而讓EULA往往被視為無關緊要。

但EULA並非無關緊要。

我認為,汽車OEM (很可能是那些以「顛覆性」為傲的「創新」高科技公司之一)不可避免地想要強迫客戶接受EULA,以期免除其於Levels 3至Levels 5自動駕駛車輛的責任。但任何有智之士都應該考慮到這些車輛與噴射機或炸藥其實都算是同一類別。

在為時已晚之前,必須立即阻止這一發展途徑。如果現在尚未達成共識,則必須在稍後通過立法完成,並且必須在全國(聯邦)層級進行立法。或許這可以從地方(各州)開始進行,但如果安全法規各地(各州)不同,那麼最終引發法規亂象,毫無安全可言。

我所擔心的是整個社會都已經習於被當作白老鼠來做實驗了,甚至反射性地直接同意了EULA,以至於最終將會縱容汽車OEM強迫我們接受對於操作自動駕駛車的法律責任——導致我們對於可能無法真正承擔的風險也不得不扛起責任,或者自己漫不經心且愚蠢地自願承擔這些風險。那將以悲劇終場。

編譯:Susan Hong

(參考原文:When Tesla met Eula: a Disaster Story,by Brian Santo)