本篇文章2947字，讀完約7分鐘

虛擬仿真 【科技在線】

本報記者楊清透露了北京的報道

人工智能( ai )給人類帶來的驚喜還在繼續(xù)。

當?shù)貢r間5月8日(北京時間5月9日凌晨)，谷歌I/o開發(fā)者大會開幕。 大會上，引人注目的是谷歌助手打電話撒謊，不是嗎？ 預約理發(fā)店時間時，谷歌助手不僅清楚地表達了自己的預約需求，還應對了許多紛繁的談話場景。 例如，如果理發(fā)店的工作人員通知所要求的12點到店的時間已經(jīng)滿了，附近的時間是只有下午1點15分的時間段，則再次詢問是否有從早上10點到12點的列。

在前一次微軟build開發(fā)者大會上，微軟語音助理小娜也同樣展示了自己的演技。 在智能會議室的現(xiàn)場展示環(huán)節(jié)，演示者使用搭載小娜的智能設備預約了會議室。 并且，每個參加者一進入會議室，小娜就可以讀名字，自己打招呼，進行各種各樣的交流，和普通人沒什么不同。

但是人工智能真的像看起來那么聰明嗎？

當今，由語音識別、拷貝翻譯、計算機視覺等技術支撐的人工智能，并沒有真正理解自己所接受的新聞的含義。 只是與默認模型一致。 5月8日，在接受21世紀經(jīng)濟新聞記者(以下簡稱《21世紀》)采訪時，微軟全球副總裁、微軟亞太研發(fā)集團主席兼微軟亞洲研究院院長洪小文直言，那只是一個黑匣子，僅此而已

與之相對應，人類可以理解。 除了了解自己知道的概念外，面對未知的事物，也可以根據(jù)自己過去的經(jīng)驗嘗試理解、總結、舉一反三。 這就是所謂的白盒。

值得觀察的是，白盒雖有智慧，但有偏頗，黑盒雖機械，但更公正，其中各有優(yōu)劣。 因為，洪小文認為，ai可以幫助人類完成一點專業(yè)的任務，面對需要拆解決定的環(huán)節(jié)，需要人類的智力，ai+hi (人工智能+人類智能)很重要。

但是，盡管ai本身還處于黑匣子階段，搭載ai終端的智能邊緣計算卻出現(xiàn)了。 這幾個從今年微軟build開發(fā)者大會上頻繁提到智能邊緣計算，以及與大疆無人機、高通合作開發(fā)相關開發(fā)套件中也可以看出。 洪小文說，智能邊緣計算一定會發(fā)生，特別值得期待。

黑匣子和白匣子

《21世紀》:今年的build大會上現(xiàn)場展示了智能語音技術。 目前，國外智能語音技術正在尋找智能揚聲器，營造普及的落地場景，但在國內還在探索中舉步維艱。 這背后有中文語音技術本身的問題嗎？

洪小文:即使有方言，中文語音識別也不比英語難。 如果收集到了足夠的數(shù)據(jù)，就不是問題。 海外智能音箱，特別是搭載亞馬遜alexa的echo之所以普及，還是和亞馬遜的電子商務本身有關，外國客戶在亞馬遜購物后，打算采用更方便的智能音箱進行購物。 另外外國客戶的家空之間喜歡廣泛地聽音樂，本身就有揚聲器的訴求，所以這種形式的終端很容易普及。

關于國內的客戶，平時喜歡和自己的高端智能手機互動，體驗用手機購物和聽音樂等功能。 對這些客戶來說足夠方便直觀，已經(jīng)養(yǎng)成了這種習性，所以智能揚聲器在國內并不普及。

《21世紀》:關于聲音技術，你說識別不是問題，現(xiàn)在的問題在哪里？

洪小文:目前，人工智能對語音的反饋有三個階段。 認識、理解和提供服務。 問題的難點是理解。 因為你試圖理解的副本本身有無限的組合。 因為沒有模型，所以光靠構建模型是無法進行的。 這也是更復雜的言外有意的情況。 今天的ai只是一個黑匣子，但理解本身就是白匣子，也就是人類所擁有的能力。 不僅可以理解收到的新聞本身，還可以推測自己不知道的新聞，部分理解其意義。 這對今天的ai來說非常費解，需要更新的技術。

《21世紀》:黑匣子和白匣子有應用極限嗎？ 還是黑匣子需要改成白匣子？

洪小文:對于一點推理過程來說，一定需要一個白盒。 沒有白盒的系統(tǒng)不容易推理。 即使可以推論黑匣子，也只存在于某個輸出正好是下一個輸入的情況下。 這就是黑匣子的極限。

但是，黑匣子也有好處，從某種角度來說，它是不偏不倚的，是什么，很公平。 白盒推理有一個默認的角度。 例如，人們的心理狀態(tài)多少有些偏見。 例如，關于墮胎和性別傾向等容易引起爭論的各種問題，都來源于每個人的既定角度。 用這個角度推論的東西必然是偏的。 不能打黑匣子。 法官這樣的角色需要黑匣子的思考，所以怎么輸入就怎么輸出。

因為，現(xiàn)在的合理狀態(tài)應該是ai+hi (人工智能+人類智能)。 雖然ai可以致力于過程性分解，但是深入的分解、理解、創(chuàng)造仍然需要依賴人類。

可解釋的ai

《21世紀》:盡管人工智能還處于黑匣子階段，但無法解釋和理解，無法正確了解內部的結構，從而導致對人工智能的不信任。 實際上，近歐盟也在謀求ai算法的透明化。 你怎么理解這個無法解釋的ai？

洪小文:首先，我們來談談可以解釋的ai。 可解釋的ai有兩個含義。 第一個意思是，從輸入新聞得出結果，可以知道得出結果的理由的角度來說，我想那就可以解釋了。 只是，解釋的過程非常多且復雜。 例如，阿爾法go在采用強化學習后，最后在棋盤上掉了下來。 雖然不能說明其背后的決定規(guī)則，但是我知道是采用強化學習邁出這一步的。 這一步的目的是贏得國際象棋。 只有不知道結果背后的規(guī)則是怎樣的，才能知道結果，而且一定有規(guī)則。 只是，這個規(guī)則復雜到不能包羅萬象。 這就是可以解釋的ai。

一般不能說明的ai，在我看來其實是第二層意思可以說明的ai。 也就是說，這是黑人識別為黑猩猩等普通人無法理解的結果。 我認為這仍然是可以解釋的ai。 產(chǎn)生這樣的結果是因為訓練數(shù)據(jù)有偏差。 因為這還可以解釋。

另外，設計ai系統(tǒng)的人能否預測輸入新聞、得出結果后的結果。 如果能夠預料到這個結果，一定會準備一系列的理論進行說明，即使遇到危機的情況也能有自己的邏輯。

《21世紀》:因此，從技術角度來說，一般意義上的ai不可解釋性是由于數(shù)據(jù)的偏差。 在這種情況下，ai技術人員可以做什么？

洪小文:數(shù)據(jù)偏差造成的后果很嚴重。 以實際生活為例，例如，當某人判斷不能貸款時，由于該人來自平均收入較低的地區(qū)，根據(jù)該基礎規(guī)則設定的ai將進一步招致偏見和歧視。 對于技術人員來說，事先知道有這樣不合理的漏洞，能否堵塞漏洞是其職責。

智能邊緣來了

《21世紀》:無論人工智能現(xiàn)在的實力如何，都已經(jīng)有很多應用，也有在終端上的應用。 與往年相比，今年的微軟build大會上智能邊緣計算頻繁出現(xiàn)，您對未來應用的領域和場景有什么看法？

洪小文: ai APP剛發(fā)生的時候，大部分都發(fā)生在云端。 但是，現(xiàn)在以視覺APP為例，視頻拍攝裝置從4k進化到8k，像素數(shù)也相應地大幅增加，數(shù)據(jù)量爆炸性增加。 即使今后5g技術迅速發(fā)展，也需要傳輸龐大的數(shù)據(jù)量。 因此，我們大膽預測，在多個視覺相關服務和智能工廠等場景中，將會發(fā)生大量的終端計算。

《21世紀》:邊緣計算場景的優(yōu)點是什么？

洪小文:大部分數(shù)據(jù)培訓發(fā)生在云中。 因為云在數(shù)據(jù)收集和訓練上很有特點。 但是，在智能工廠、智能安全等場景中，需要即時反饋，這大部分終端至少需要運行和識別的能力，所以需要崩潰。

除了傳輸速度之外，還存在傳輸能量的問題，大量的數(shù)據(jù)傳輸必然存在大量的能量消耗。 事實上，在智能工廠中，即使終端與云交互，也會將短距離傳輸一起傳輸?shù)皆啤?既然有了匯總過程，在這個過程中可以給本地一點解決和智能的功能。 從能源消耗的角度來看，這種方式也是節(jié)能的。 所以終端計算必然會發(fā)生。