神經網路(neural network)已經發展到「技術炒作週期」(hype cycle)的顛峰。但根據日前參加「圖靈獎」(Alan Turing award)50週年紀念活動的專家們表示,神經網路技術看似具有廣泛的用途且前景無限,但實際上仍處於發展的早期階段,同時也存在許多侷限性。

在這次活動的一場專題討論上,幾位專家表示,目前所討論的人工智慧(artificial intelligence;AI)其實是神經網路的誤稱。神經網路其實還無法實現基本的人類推理和理解類型。相反地,它們只是在建構人工智慧漫漫長路上所用到的工具。

由於圖靈(Alan Turing)認為總有一天機器的智商將會超過人類,因此討論深度學習(deep learning)特別有意義。美國加州大學柏克萊分校(UC Berkeley)電腦科學教授兼人工智慧研究員Stuart Russell指出,「圖靈預測人工智慧將超過人類智慧,而屆時將是人類末日。當然,如果夠幸運的話,我們可以把機器關掉。」

20170808_AI_NT31P1 UC Berkeley教授Stuart Russell

Stuart Russell目前正在撰寫有關人工智慧領域的新版教科書。他表示,「在實現人工智慧之前至少有6個重要問題需要突破,但我很肯定人工智慧時代一定會來臨,因此,我將終其一生致力於從事這一領域。」

Russell還指出,神經網路只是打敗世界圍棋冠軍的Google AlphaGo系統之一部份。

「AlphaGo……是一個經典的系統……而深度學習成就了該系統的兩個組成部份……但他們發現使用具表達性的程式,更有助於學習這一遊戲規則。端對端的深度學習系統需要……從過去數百萬場棋弈遊戲而來的資料,進而算出下一步落子點。儘管人們做了很多努力,但這種系統不適合西洋雙陸棋和國際象棋。」Russell表示,而且有些問題所需的資料集龐大到令人難以置信。

Russell把當今的神經網路視為「某種突破……能夠滿足1980年代人們提出的願望……但它們缺少編程語言的表達能力,以及支援資料庫系統、邏輯編程和知識系統的陳述性語義。 」

神經網路還缺乏人類解決問題的強大預先理解能力。「深度學習系統永遠無法從強子對撞機(Hadron Collider)的原始資料中發現希格斯玻色子(Higgs boson)」,他補充道,「我擔心人們過度看重利用巨量資料(big data)與深度學習來解決我們面臨的所有問題。」

20170808_AI_NT31P2 UC Berkeley教授Stuart Russell表示,神經網路是朝向人工智慧邁進的重要步驟之一

自駕車、影像辨識的限制

神經網路在自動駕駛車和影像辨識等領域的發展前景看好,但也有其侷限性。

「我一直在研究自動駕駛車……這一類系統必須具備可靠性。」在加拿大多倫多大學(University of Toronto)教授機器學習課程並負責Uber先進研究中心的Raquel Urtasun表示,「這對神經網路來說極具挑戰性,因為它們不擅長對不確定性進行建模。」

20170808_AI_NT31P3

神經網路「會說汽車出現在那裡的可能性有99%……但你無法容忍任何誤報……而當你出錯時,也必須知道為什麼會出錯。」

她同意Russell所說的「深度學習無法解決我們面臨的所有問題」。將神經網路和繪圖模型組合在一起「是一種有趣的研究領域」,它有助於系統獲得人類擁有的某些先驗知識。

但由於其侷限性,使用者必須「瞭解機器學習系統可能出現偏見……有時還會作出不公平的決策,」她指出。

Urtasun將當今神經網路的成就歸功於「使訓練效果更好的一些技巧,但在過去25年來,這些核心演算法並沒有根本性的改變。突破部份來自於巨量資料的實現,以及讓訓練更大規模的模型成為可能的最佳化硬體。」

儘管如此,深度學習「成就了以往我們在健康、交通領域中無法想像的應用——現在我們幾乎在任何地方都能見到它們的身影。」

目前在Google Cloud休假研究的首席科學家李飛飛(Fei-Fei Li)也認同處於炒作顛峰的神經網路存在實際的前景與限制。她同時也是史丹佛大學人工智慧實驗室主任,不久前才剛在史丹佛大學上完該校學生人數最多的課程——770人選修的神經網路課程。

Li指出,現在正是起始階段的結束時刻,機器學習已經從實驗室的實驗過渡到商業部署了。廣泛的工業與科學領域「正受到龐大的資料和資料分析功能的深遠影響。」

儘管如此,「我們解決大多數問題帶來的愉悅感並不真實。雖然我們讚揚ImageNet在影像辨識領域取得了成功,但我們很少談到它的失敗……在推理等方面仍然面臨諸多的挑戰。」

「例如在房間起火時,人工智慧演算法仍然能夠下出完美的圍棋招數。」她引用另一位研究人員杜撰有關深度學習缺少情景理解能力的笑話時表示。

更廣泛的說,「我們對於人類認知的理解程度還非常有限。正因為此,這兩個領域都處於非常早期的階段。」

利多還是利空?

「現在要問神經網路會把我們帶多遠還為時尚早。」最看好神經網路發展前景的專家題討論成員——OpenAI共同創辦人兼研究總監Ilya Sutskever表示,「這些模型很難理解。例如,將機器視覺作為一種程式真的很不可思議,但現在我們對不可思議的問題都能提出不可思議的解決方案了。」Ilya Sutskever還曾任職Google Brain研究科學家

雖然位於神經網路核心的反向傳播演算法已經出現好幾年了,但執行這些演算法的硬體最近才實現。Sutskever補充說,用於神經網路的新架構承諾「在今後幾年中,人們將見證取得長足進展的驚人電腦。」

在微軟(Microsoft)Azure雲端服務開發FPGA加速器的傑出工程師Doug Burger對此表示同意。他在另一場專題討論上表示,「儘管神經網路有點宣傳過火,但它是真實存在的……而且還存在一些我們尚未完全理解的深度和基礎知識。」

許多新創企業、學術研究機構和現有業者都在研究可加速神經網路的處理器,其中有許多人使用降低精確度的向量乘法矩陣,他指出,「在今後三、四年這種方法會逐漸退出歷史舞台,而之後會出現什麼真的很令人感興趣。」

資深微處理器設計師和Google TPU加速器開發團隊負責人Norm Joupi也表示同意,他把神經網路稱為當今電腦科學領域中「最大的金塊之一」。

UC Berkeley機器學習專家Michael I. Jordan看到的是人工智慧的限制。他認為,電腦科學仍然是最首要的學科,人工智慧還無法取而代之,而神經網路只是該領域中仍在發展中的一個部份。

20170808_AI_NT31P4

他表示,「它只是一個大型的工具箱。我們必須打造圍繞著神經網路的基礎設施和工程,如今,我們離這個願景還很遠。未來也需要讓系統用數學和機器學習的方式去思考。」

如同專題討論上的其它主講人一樣,他指出人類的推理能力遠遠超過神經網路範圍之外。 「自然語言的處理是十分困難的。今天我們所做的只是字串到字串的配對,但這跟解譯是不一樣的。」

舉例來說,他提到了中國對聊天機器人的熱情。這種自動化的對話裝置可以與人類進行應答互動,但並不支援抽象和語義,它們無法說出有關這個世界的任何真實內容。

「我們正處於巨量學習的年代,但尚未進入人工智慧時代。」雖然如此,他同意神經網路具有足夠的重要性,必須成為新版電腦科學課程中的一部份。

(參考原文:Neural networks seen as huge but limiteda,by Rick Merritt)