人工智慧時代的雙面刃

作者 : Maurizio Di Paolo Emilio,Power Electronics News & EEWeb主編

深入瞭解一個事物的物理學原理,將有機會更加有效地應用概念,從而創造出新的設備。為此,我們需要新的技術,而人工智慧就是其中之一。「人工智慧」這個詞最早出現於1950年,機器學習只是實現人工智慧的一種方式,而深度學習則是與機器學習相關的眾多方法之一。

「人工智慧將是人類最重要的成就,但可惜可能是最後一個。」——Stephen Hawking

深入瞭解一個事物的物理學原理,例如材料的原子結構,將有機會更加有效地應用概念,從而創造出新的設備。為此,我們需要新的技術,而人工智慧(AI)就是其中之一。

人工智慧越來越多地出現在我們的認知中,不僅如此,還有機器學習(ML)和深度學習(DL),而且這二者有時還會被混為一談。事實上,「人工智慧」這個詞最早出現於1950年,它包含所有能夠執行人類智力相關任務的電腦。機器學習只是實現人工智慧的一種方式,而深度學習則是與機器學習相關的眾多方法之一。

人工智慧涉及所有與人類智力有關,但由電腦執行的操作。它包括規劃、語言理解、物體和聲音辨識、學習和解決問題。而人工智慧與物聯網(IoT)之間的關係就好比人腦和人體,透過視覺和觸覺等各種感官輸入,身體能夠辨識特定的處境並執行相應的動作。大腦根據感官輸入做出決定,並向身體發送訊號以指揮其運動。物聯網也只不過是一組連接在一起的感測器,只有借助人工智慧,它才能理解所有獲取的資料,再透過控制系統或電路核心(即CPU)做出決策並操作執行器,最終實現各種運動(如機器人手臂)的控制。

機器學習與深度學習

機器學習本質上是實現人工智慧的一種方法;屬於人工智慧的一種子群(subgroup),專注於讓機器擁有接收一組資料並自行學習的能力,當它們獲得與正在處理的任務相關的更多資訊時,可以不斷調整演算法。人工智慧和機器學習這兩個術語經常被互換使用,尤其是在大資料領域。實際上,「機器學習」一詞是在「人工智慧」之後創建,它描述了「機器無需明確程式設計即可學習的能力」。因此,機器學習是一種「教育」演算法的方法,這讓它可以從各種環境處境中學習。教育,或用一個更恰當的詞——訓練——是指使用大量資料和有效演算法以便根據發生的狀況進行調整(和改進)。

機器學習利用神經網路方法和統計模型自動建構分析模型,來查找資料背後隱藏的資訊。而神經網路的出現源於由互連單元(如神經元)構成的人腦功能,這些互連單元透過回應外部輸入來處理資訊,從而在不同單元之間傳遞相關資訊。機器學習的一個典型實例就是人工視覺系統,即透過運算系統來辨識影像感測器以數位方式擷取的物體。在這些情況下應用的演算法必須能夠辨識特定物體,區分它們是動物、物體還是人類,同時還能從處境中學習,也就是說,它必須儲存已經完成的任務,並將之有效應用在下一次電腦視覺學習中,這主要應用於自動駕駛車輛系統。

 

人工智慧可能被犯罪集團「利用」,而造成無法預期的災難。

 

深度學習是機器學習的一種方法,它從人腦的結構或各種神經元的互連中汲取靈感。其他的機器學習方法還有歸納邏輯程式設計、聚類(Cluster)和貝葉斯網路(Bayesian network)等。其中貝葉斯網路基於由一組變數及其條件依賴組成的DAG (direct acyclic graph,有向無環圖)模型。這種模型可以表達疾病和症狀之間的概率關係,即以給定症狀作為輸入,可以估算出給定疾病發生的概率。

深度學習採用了具有各種處理單元的大型神經網路模型;它利用運算的發展和訓練技術透過大量資料來學習複雜的模型。其常見應用包括成像和語音辨識。由於涉及的層次很多,深度學習的概念有時被簡稱為「深度神經網路」。

近年來,機器學習和深度學習讓人工智慧獲得了巨大的發展。這兩者都需要無數感測器收集大量的資料,而且越來越多的感測器還在繼續「填入」物聯網生態系統,這進一步改善了人工智慧。改進物聯網生態系統將引領人工智慧,繼而引領能夠成功實施的方法,從工業角度來看,人工智慧可用於預測機器何時需要維護,或分析生產過程以實現大幅效率提升,從而節省數以百萬計的資金;而消費者利用人工智慧將有機會以最佳方式管理他們的時間和條件。

電子技術的進步持續推動著人工智慧和物聯網的共生;電腦處理和資料儲存的發展使得整合和分析更多資料成為可能;減少電腦晶片和改進製造技術帶來了成本更低但更強大的感測器;而無線連接則以非常低廉的價格提供了大量資料,並允許所有這些感測器將資料發送到雲端;雲的誕生讓這些資料的儲存幾乎不受限制,並提供了相當可觀的運算處理能力。所有這些進步都讓人工智慧更接近其最終目的,即創造越來越多的智慧型機器,並融入我們的日常生活

為了實現人工智慧和機器學習的持續發展,驅動演算法和相關決策的資料必須是高品質的,才能被正確解釋。隨著連接到網際網路和相互連接物聯網裝置的激增,收集、儲存和處理的資料量每天都在增加,這為大資料的安全和隱私保護帶來了新的挑戰。駭客帶來破壞性攻擊的風險也與日俱增。預防這些風險,需要所有組織機構嚴格控制資料的產生、儲存和通訊,因為駭客有可能會控制重要系統並在任意時間內為所欲為。

將衍生哪些風險?

幾十年來,人工智慧經歷了它的繁盛時代,我們在語音辨識和自動駕駛車等各個領域都能看到它的身影。但是,從史蒂芬·霍金(Stephen Hawking,已於幾年前去世),到伊隆·馬斯克(Elon Musk)和比爾·蓋茲(Bill Gates),這些傑出人物均對人工智慧可能帶來的風險向我們發出警告。從「奇點」(singularity)帶來的危險,或機器完全控制人類,到網路攻擊。有多項研究都強調了機器學習被網路犯罪分子利用而存在的隱患:對數位安全的威脅不僅涉及隱私洩露和資料盜竊,還涉及在這個完全連接的生態系統中,人類生命的安全。這些研究由來自多所大學的眾多專家完成,包括牛津、劍橋、史丹佛、耶魯和巴斯等大學。

人工智慧和相關技術的出現為網路安全帶來了很多可能性。事實上,這是一把雙刃劍,在居心叵測之人的手中,它將變得非常危險。擁有完美的網路安全性原則或解決方案,其重要性與日俱增,而造成這一切的根源就在於智慧裝置的激增。此外,由於始終連接到物聯網生態系統的節點不斷增加,網路犯罪分子現在有太多的機會可以滲透到裝置中。

由於大量的資料被儲存,因此大資料洩露對系統性能和功能安全方面都可能帶來毀滅性的惡果,大規模的資料安全性漏洞影響層面將非常廣,它不僅損壞聲譽,還會帶來嚴重的法律後果。任何組織機構都需要確保他們在資料有用性和隱私權之間取得恰當的平衡,在儲存資料之前,有關使用者的任何唯一識別碼都應被刪除,但這本身就存在安全風險,因為刪除並不能確保資料在將來仍保持匿名。

隨著組織機構儲存的資料越來越多,他們還面臨硬體和軟體加密的挑戰。如果需要雲端執行分析,則用戶就不能加密再發送資料。使用「全同態加密」(Fully Homomorphic Encryption,FHE)是其中一種解決方案,它允許儲存在雲端的資料對加密資料執行操作。當資料被解碼時,其結果與對明文資料執行操作是相同的,因此,雲端將能夠在不知道明文資料的情況下對加密資料執行操作。產業專家分析了駭客和安全專業人員對機器學習演算法的大量應用,這場沒有規則的戰鬥使企業防禦神經緊繃,但如果處理得當,企業應該可以對特定目標進行系統內攻擊,從錯誤中汲取教訓,進而加固系統。

在搜索漏洞方面,與自動化的共生將推動網路犯罪分子加快病毒實施操作,並進一步尋找更多的系統弱點。例如,網路犯罪分子可以透過這些功能來掃描軟體中以前未知的漏洞,並將其用於非法目的。但機器學習也可以洞察不良行為,補強透過其他手段獲得的情報,而且它更加敏捷、更加靈活,因為與其他工具相比,人工智慧工具通常部署速度更快,交付執行效果也更快。畢竟,智慧安全系統可以擊敗任何複雜的威脅,但同時也代表著它已成為下一個人工智慧網路攻擊的目標。

可能發生的可怕事件

隨著全球高科技公司和政府的不斷投資,人工智慧迅速擴張並已成為一個競爭相當激烈的產業。Markets and Markets最近的一項研究預測,未來幾年人工智慧年複合成長率(CAGR)將超過60%,價值超過150億美元。硬體創新的態勢也很強勁,這些創新提高了電腦的操作能力,使得在不同GPU平台上運作更複雜的模型成為可能。

大多數單獨的人工智慧技術將被用於各種機器人控制任務的自動化,它們能夠做出關鍵決策,但也會對整個數位生態系統產生負面影響,因為自動化智慧型機器可以評估最易被攻擊的目標。利用先進的技術,人工智慧可以利用操縱系統和禁用安全性群組件來隱藏「網路感染」,一旦系統被感染,它們就可用於傳播各種電腦病毒,包括更高階的勒索軟體。

目前,大多數網路犯罪組織均使用各種知名的勒索軟體,他們修改其原始程式碼來生成不同的樣本。採用類似的方式,人工智慧技術將能夠創建自己的客製惡意軟體,它可能是從頭開始創建並執行先進的機器學習演算法。物聯網裝置(例如醫療設備)及其背後的資源和資料很可能是其主要攻擊點,但我們要應對的案例不僅集中於電腦病毒,還集中在與機器人和無人機相關的部分。

從用於消費或工業活動的簡單機器人,到無人機和未來的民用飛行計程車,它們都可能成為潛在的危險武器,極易受到遠端操縱。而自動駕駛車和整個智慧城市生態系統也可能被刻意誤讀訊號,加劇危險的交通狀況。

許多工程師和分析師估計,下一次利用人工智慧的重大攻擊可能會在幾年內發生,最大的威脅仍然是身份盜用、拒絕服務攻擊和密碼破解。在日益數位化的世界中,這類攻擊會削弱人類的能力並影響公共機構的行政行為,人工智慧還可能是魚叉式網路釣魚攻擊的關鍵,它收集和處理資料庫資料以輕鬆連結來自不同源的資訊,並發起最佳攻擊。許多攻擊都可以與人工智慧配合,它可能混淆醫生的診斷,惡意人工智慧與駭客攻擊的配合,理論上可以達到無法估量的尺度。

安全專家推測,最大的威脅可能是——人工智慧能夠利用機器巨大的運算能力創造出新的病毒樣本。透過設計,人工智慧可以分析當前的病毒弱點並生成更高階的形式。其首個缺點可能是較高的運算成本,但隨著時間的推移,運算成本必會減少。

很多組織機構已經開始打擊人工智慧惡意軟體,為未來可能發生的攻擊預做準備。但由於人工智慧理論上具有的無限潛力,網路安全專家也意識到它越來越難管理並將嚴重威脅IT安全。當然,人工智慧可望為物理、化學和醫學等各個領域的研究提供支援,我們還將看到人工智慧如何參與新行星的探索。

(參考原文:The Age of Artificial Intelligence,by Maurizio Di Paolo Emilio)

本文同步刊登於《電子工程專輯》雜誌2021年8月號

 

 

 

加入我們官方帳號LINE@,最新消息一手掌握!

發表評論