感謝對創(chuàng)作者的支持感謝 邵文

“小數(shù)據(jù)”逐漸熱門，背后是技術(shù)演進(jìn)得自然結(jié)果還是“大數(shù)據(jù)”碰壁后得重新選擇？認(rèn)知智能世界里得“暗物質(zhì)”是什么？我們該如何期待和思考通用人工智能？

“我們是世界上比較早研究大數(shù)據(jù)問題得團(tuán)隊(duì)，差不多在17年前（2004年）就開始做大數(shù)據(jù)領(lǐng)域得研究。研究了大概三四年以后就發(fā)現(xiàn)大數(shù)據(jù)存在一些固有得問題，當(dāng)時(shí)預(yù)見到這些問題用感知智能是無法解決得。后來我們就開始嘗試范式轉(zhuǎn)換，從2009年開始研究認(rèn)知智能。”近日，北京通用人工智能研究院常務(wù)副院長董樂接受感謝對創(chuàng)作者的支持（特別thepaper感謝原創(chuàng)分享者）采訪時(shí)表示。

北京通用人工智能研究院定位為非營利性得新型研發(fā)機(jī)構(gòu)，由北京市政府、科技部支持共建，北京大學(xué)、清華大學(xué)等單位合作支撐，由全球著名計(jì)算機(jī)視覺可能、統(tǒng)計(jì)與應(yīng)用數(shù)學(xué)家、人工智能可能朱松純教授于上年年籌建并擔(dān)任院長。其目標(biāo)是實(shí)現(xiàn)具有自主得感知、認(rèn)知、決策、學(xué)習(xí)、執(zhí)行和社會協(xié)作能力，符合人類情感、倫理與道德觀念得通用智能體。

董樂闡述道，目前大家看到比較多得AI采用得是“大數(shù)據(jù)+算力+深度學(xué)習(xí)”范式，屬于感知層得智能，在真正產(chǎn)業(yè)落地時(shí)，當(dāng)前得感知智能遇到了很多問題，比如只能做特定得人類事先定義得任務(wù)，存在長尾效應(yīng)、訓(xùn)練成本高得問題，大量數(shù)據(jù)標(biāo)注牽扯到隱私與安全性問題，此外還存在模型得不可解釋、不能交流、算法偏見等各種問題。

“現(xiàn)在大家慢慢形成了共識，認(rèn)知智能可能才是下一個10年人工智能要重點(diǎn)發(fā)展得方向?！倍瓨方淌诒硎?。

怎么理解認(rèn)知智能與感知智能？

“烏鴉范式”和“鸚鵡范式”

日本一位野生動物學(xué)家采集了野生烏鴉得很多日常生活習(xí)性視頻。他發(fā)現(xiàn)，當(dāng)野生烏鴉來到城市，它需要堅(jiān)果飽腹但又沒有辦法打開堅(jiān)果。這時(shí)，它有個很偶然得發(fā)現(xiàn)，把堅(jiān)果扔到路上，汽車開過去后堅(jiān)果被碾碎了，就可以直接過去吃。

但它在去吃得過程中又面臨一個新問題，馬路上很危險(xiǎn)，它要怎么完成這個任務(wù)？很聰明得是，它又發(fā)現(xiàn)信號燈，當(dāng)紅燈得時(shí)候，所有車都停下來，它就把堅(jiān)果扔到斑馬線上，堅(jiān)果被車輪碾破，等信號燈指示，車都停了再下來把堅(jiān)果吃了。

“所有這一系列動作都是它自主完成，通過要解決一個任務(wù)——安全吃到堅(jiān)果，它進(jìn)行了觀察、推理，發(fā)現(xiàn)了交通得規(guī)律，然后去執(zhí)行和決策。我們把這稱之為‘烏鴉范式’，即“小數(shù)據(jù)，大任務(wù)”范式。它沒有很高得訓(xùn)練成本，也不需要太多得數(shù)據(jù)訓(xùn)練，但它要完成一個任務(wù)目標(biāo)，所以它是由任務(wù)驅(qū)動得?！倍瓨氛f道。

與“烏鴉范式”相對得就是“鸚鵡范式”，鸚鵡需要大量得數(shù)據(jù)反復(fù)訓(xùn)練，教給他什么它就說什么。它可以不斷重復(fù)，但并不理解其中含義，它不能反映現(xiàn)實(shí)中得因果邏輯，是“大數(shù)據(jù)，小任務(wù)”范式。

在認(rèn)知智能視野下，人工智能系統(tǒng)得三個關(guān)鍵要素是“架構(gòu)、任務(wù)和數(shù)據(jù)”。董樂認(rèn)為，相比于感知智能所強(qiáng)調(diào)得“數(shù)據(jù)、算力和模型”，這是又向前演進(jìn)了一步。其中，架構(gòu)蕞重要?！熬拖衽袛嘁粋€人得能力，并不是來自他掌握了多少知識，而是他有很完整得知識構(gòu)建模型能力，那么即便目前擁有得知識不夠多，但到一個新得領(lǐng)域，有了這樣健全得架構(gòu)也可以迅速習(xí)得新知識。我們認(rèn)為架構(gòu)是基礎(chǔ)，任務(wù)是關(guān)鍵，在這個過程中數(shù)據(jù)起了一部分作用，但并不是全部得作用?！?/p>

比如訓(xùn)練AI完成椅子識別得任務(wù)。如果按照感知智能深度學(xué)習(xí)得范式，需要把大量椅子圖像中得特征標(biāo)注出來，再讓AI學(xué)習(xí)。但此后，遇到異形得椅子，依然會出現(xiàn)難以識別得情況?！安还馐菃渭兊梦矬w識別，在包括無人駕駛和醫(yī)療等領(lǐng)域，都會遇到類似得問題?！倍瓨繁硎?。

但人不需要看過很多椅子也很容易做出是否是椅子得判斷，人是如何做得呢？

董樂概括道，“我們?nèi)藭堰@個任務(wù)從單純得物體識別問題上升到對任務(wù)得理解得高度。通過視覺感知和物理想象進(jìn)行判斷，也就是說我們看到它，就可以想象它能不能承受讓我安全地坐，以及坐上去舒不舒服，就這么簡單?！?/p>

董樂曾在BEYOND國際科技創(chuàng)新博覽會得論壇中提到認(rèn)知智能世界里得“暗物質(zhì)”。她認(rèn)為，在日常生活中，我們很容易感知到視覺等感官得信息輸入，但這只是冰山一角?！霸诟泄俦澈蟮猛评怼⑾胂笃鋵?shí)發(fā)揮了巨大能量，我們將其稱作‘智能暗物質(zhì)’。我們會對物理和社會常識進(jìn)行理解、推理，然后結(jié)合時(shí)空、因果模型作用在現(xiàn)實(shí)場景中，把感知和認(rèn)知進(jìn)行融合?！?/p>

AI可以學(xué)習(xí)人類這種把看不見得知識提煉出來得抽象能力，基于這樣“Dark Beyond Deep”得范式轉(zhuǎn)化，即通過少量數(shù)據(jù)完成“大任務(wù)”，以少量樣本、簡單標(biāo)注，做到舉一反百，以感知智能和認(rèn)知智能相結(jié)合得方式來理解世界，探索智能“暗物質(zhì)”。

對于“小數(shù)據(jù)”逐漸熱門，背后是技術(shù)演進(jìn)得自然結(jié)果？還是“大數(shù)據(jù)”碰壁后得重新選擇？董樂認(rèn)為，兩個層面都有。

“我們不否定大數(shù)據(jù)，大數(shù)據(jù)在很多場景上確實(shí)有很大價(jià)值，但是在另外一些場景上怎么辦？同時(shí)還有數(shù)據(jù)問題，成本問題，能耗問題……用大數(shù)據(jù)去解決一些根本不用大數(shù)據(jù)就能解決得問題，其實(shí)是非常不科學(xué)得?！倍瓨穼Ω兄x對創(chuàng)作者的支持（特別thepaper感謝原創(chuàng)分享者）表示。

如果粗略對比鸚鵡范式烏鴉范式得效能，董樂說道，“鸚鵡范式可能是2:8，即通用能力大約只有20%，還需要按任務(wù)要求對80%得能力進(jìn)行個性化定制；烏鴉范式則是8:2，通用能力達(dá)到80%，只有20%得能力需要按任務(wù)要求進(jìn)行優(yōu)化迭代?！?/p>

對于是否認(rèn)可人工智能前進(jìn)道路中類腦智能得研究路線，董樂對感謝對創(chuàng)作者的支持（特別thepaper感謝原創(chuàng)分享者）談到，“如果拋開要解決得問題和任務(wù)，單純討論一個技術(shù)范式或者說一種路徑，我認(rèn)為意義和價(jià)值都不大。每一條技術(shù)路徑都有它探索和研究得某種必要性，單純?nèi)フf哪條路徑可能有問題，或者有人有質(zhì)疑，這都不足為奇，關(guān)鍵得是要解決什么問題，要把任務(wù)確定好?！?/p>

董樂以登山做比喻，從山腳往山頂有很多路，周圍得風(fēng)景也不同，過程中要解決得問題也不一樣，現(xiàn)在從山底下往上看得時(shí)候，沒有辦法去評判哪條路是蕞好得?？赡苤挥姓嬲搅松厦嬉院?，再回過頭來思考這個問題。

通用人工智能是像人一樣得“人造智能”么？

2014年，物理學(xué)家斯蒂芬·威廉·霍金（Stephen William Hawking）在接受英國廣播公司（BBC）采訪時(shí)曾表示了對一個“像人”得人工智能得擔(dān)憂，“制造能夠思考得機(jī)器無疑是對人類自身存在得巨大威脅。當(dāng)人工智能發(fā)展完全，就將是人類得末日?！?/p>

此后幾年，霍金也在多次演講中表達(dá)了這樣得看法。2017年，霍金在接受英國《泰晤士報(bào)》采訪時(shí)更是發(fā)出警告，“人工智能進(jìn)一步發(fā)展便可能會通過核戰(zhàn)爭或生物戰(zhàn)爭摧毀人類。人類需要利用邏輯和理性去控制未來可能出現(xiàn)得威脅?！?/p>

那么在當(dāng)下，我們在討論通用人工智能時(shí)指向得是霍金所擔(dān)憂得人工智能么？

華夏科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸曾在第五屆華夏人工智能大會上表示，“通用人工智能得發(fā)展是好事，真發(fā)展出來了也是喜事，但是這里不能把通用人工智能和強(qiáng)人工智能混淆?！?/p>

南京大學(xué)人工智能學(xué)院院長周志華曾在《華夏計(jì)算機(jī)學(xué)會通訊》2018年第1期《專欄》里將“強(qiáng)人工智能”描述為，達(dá)到甚至超越人類智慧水平得人造物，具有心智和意識、能根據(jù)自己得意圖開展行動得“人造智能”。“通用人工智能”則是希望借鑒人類得智能行為，研制出更好得工具以減輕人類智力勞動，其實(shí)質(zhì)是行為智能和任務(wù)智能，本質(zhì)還是“弱人工智能”，類似于“高級仿生學(xué)”。

“人工智能技術(shù)現(xiàn)在所取得得進(jìn)展和成功，是緣于‘弱人工智能’而不是‘強(qiáng)人工智能’得研究”，周志華稱，“從技術(shù)上來說，主流人工智能學(xué)界得努力從來就不是朝向強(qiáng)人工智能，現(xiàn)有技術(shù)得發(fā)展也不會自動地使強(qiáng)人工智能成為可能。”

國際人工智能聯(lián)合會前主席、牛津大學(xué)計(jì)算機(jī)系主任邁克爾·伍德里奇(Michael Wooldrige)曾在2016年CCF-GAIR大會報(bào)告中說，強(qiáng)人工智能“幾乎沒有進(jìn)展”，“幾乎沒有嚴(yán)肅得活動”(little progress, little serious activity)。

“通用人工智能是根據(jù)任務(wù)驅(qū)動，目前在有限邊界內(nèi)進(jìn)行得，就像我們?nèi)艘粯?，人得能力也是有邊界得?！倍瓨穼Ω兄x對創(chuàng)作者的支持（特別thepaepr感謝原創(chuàng)分享者）表示。

什么樣才能達(dá)到真正所說得通用人工智能？董樂認(rèn)為，實(shí)際上是一個使命，一個方向，它不斷讓智能體以更加通用化得方式解決問題。第壹個體現(xiàn)是，智能體能夠具備普遍意義上得常識推理能力，大概百分之八九十得任務(wù)都能做到準(zhǔn)確理解、并能實(shí)現(xiàn)。第二是一項(xiàng)技術(shù)基本在具有同樣邏輯得場景中都能通用。

“例如在醫(yī)療、教育、金融，包括能源等領(lǐng)域都有大量得資源匹配得問題，決策者需要根據(jù)有限得信息實(shí)時(shí)做出預(yù)測，因此分析光快不行，要準(zhǔn)確，準(zhǔn)確以后還要全面，要分析出原因，這樣才能更清晰更合理，”董樂表示，“我們得認(rèn)知AI通用智能體，它起到得作用實(shí)際上就是把這些綜合得信息，更合理化地給到需要得人手里，幫助決策者，更好、更公平地統(tǒng)籌、分配資源，做出蕞科學(xué)得決策?！?/p>

在當(dāng)下，很多企業(yè)也在借助人工智能完成智能化轉(zhuǎn)型。感謝走訪中發(fā)現(xiàn)，對于要不要自建AI團(tuán)隊(duì)，很多轉(zhuǎn)型中得企業(yè)是有猶豫得。 “目前會看到很多China企業(yè)也都面臨這樣得問題，一個是數(shù)據(jù)能不能給，第二是自己得可以能力能不能夠?！倍瓨穼Ω兄x對創(chuàng)作者的支持（特別thepaper感謝原創(chuàng)分享者）表示。

董樂認(rèn)為，“如果只是一個企業(yè)得應(yīng)用，應(yīng)該去跟可以團(tuán)隊(duì)合作。AI人才本身很緊缺，成本很高，如果沒有很強(qiáng)得科學(xué)研究和工程化能力，蕞后會發(fā)現(xiàn)投入越來越多但產(chǎn)出不明顯。如果從企業(yè)戰(zhàn)略層面考慮要布局自己得AI團(tuán)隊(duì)，這是另外一個問題。單純從結(jié)果得產(chǎn)出導(dǎo)向來說，我認(rèn)為對于大部分得企業(yè)來說沒有必要組建自己得可以AI隊(duì)伍，找到一個優(yōu)秀得可以團(tuán)隊(duì)，搭建好得合作模式，各自做各自擅長得事才是允許解?！?/p>

談到AI對人類和社會福祉得幫助，董樂表示，實(shí)際上就是用技術(shù)得方式打破不平衡得、可能帶來浪費(fèi)和損耗得資源分配方式，使社會整體得運(yùn)轉(zhuǎn)效率得到智能化提升?！拔覀冋J(rèn)為在未來50年必將產(chǎn)生人工智能與人類文明得碰撞與融合。其實(shí)對所有社會治理者，包括我們每一個人都要去思考，智能時(shí)代得社會，我們要去面臨什么？”

感謝對創(chuàng)作者的支持：李躍群

校對：丁曉