類(lèi)腦智能是人工智能和腦科學(xué)領(lǐng)域的重要研究方向，其關(guān)注在人腦啟發(fā)下構建類(lèi)腦結構，實(shí)現類(lèi)人認知和行為功能。為了帶大家深入了解大腦機制和類(lèi)腦智能，我們將以類(lèi)腦智能領(lǐng)域的問(wèn)題進(jìn)行追問(wèn)，以多人聯(lián)動(dòng)的方式，帶領(lǐng)大家了解類(lèi)腦智能的原理以及目前的最新進(jìn)展。
在之前的采訪(fǎng)中，北京大學(xué)心理與認知科學(xué)學(xué)院研究員羅歡發(fā)起追問(wèn)：“在人工智能、計算神經(jīng)科學(xué)領(lǐng)域是否有抽象結構的學(xué)習？是否有基本的數學(xué)原理能夠描述這個(gè)過(guò)程？”
本期我們采訪(fǎng)了中國科學(xué)院自動(dòng)化研究所研究員曾毅，曾毅研究員將帶領(lǐng)我們了解類(lèi)腦智能對人腦機制和功能的模擬及其發(fā)展潛能。按照慣例，曾毅研究員也提出了自己最想知道答案的一個(gè)問(wèn)題，我們將在文末公布該問(wèn)題。
Q：您好，可以為我們介紹下您目前的主要研究領(lǐng)域和方向嗎？
曾毅：我主要的研究領(lǐng)域圍繞類(lèi)腦人工智能展開(kāi)，具體講是受腦在不同尺度的結構與機制啟發(fā)，構建具有生物合理性和計算可行性的類(lèi)腦智能，終極目標是實(shí)現在認知能力上可以比擬甚至是超越人腦的，但仍與人能和諧相處，有道德、合乎倫理的類(lèi)腦人工智能。這是我的終生科學(xué)追求，我的實(shí)驗室已經(jīng)為此付出了10年的努力，并將持續再用幾十年的時(shí)間研制具備這樣能力的類(lèi)腦認知智能引擎(Brain-inspired Cognitive Intelligence Engine)，貢獻于人與人工智能的和諧共生。
Q：目前類(lèi)腦領(lǐng)域發(fā)展面對的主要挑戰是什么？
曾毅：目前這個(gè)領(lǐng)域的挑戰主要來(lái)自?xún)煞矫?。一方面是腦在面向不同認知功能方面的結構與機制仍然在不斷探索中，基于已知的進(jìn)展構建類(lèi)腦智能的理論與技術(shù)模型仍然只能在部分認知功能的構建上取得階段性的進(jìn)展，而對于很多復雜認知功能以及智能的整體計算理論的支撐還遠遠不夠。另外一方面是如何將來(lái)自不同尺度，腦啟發(fā)的結構與機制通過(guò)計算建模進(jìn)行整合，從而形成統一的智能理論框架。在某個(gè)尺度獲得的結構與機制仍然是部分的、片面的，在將他們通過(guò)計算建模整合的過(guò)程中可能還缺失關(guān)鍵的科學(xué)細節。這需要人工智能的研究者同腦與認知科學(xué)研究者深度協(xié)同才能夠取得實(shí)質(zhì)性進(jìn)展。
Q：人腦可以高度協(xié)調各種感知器官并且在這個(gè)過(guò)程中完成感知器官傳回信息的計算，類(lèi)腦智能是否有可能協(xié)調多種器官的信息并綜合做出判斷？
曾毅：真正的類(lèi)腦智能正是這樣做的，也可以說(shuō)如果不是這樣進(jìn)行多感覺(jué)融合的綜合決策，那就不是真正的類(lèi)腦智能。我自己實(shí)驗室的類(lèi)腦人工智能模型的各種感覺(jué)模塊是由局部的脈沖神經(jīng)網(wǎng)絡(luò )模型實(shí)現的，而多感覺(jué)信息的整合(視覺(jué)、聽(tīng)覺(jué)、觸覺(jué)、嗅覺(jué)、味覺(jué)等)也是基于最基礎的突觸可塑性模型實(shí)現的。例如我們實(shí)驗室實(shí)現了基于類(lèi)腦脈沖神經(jīng)網(wǎng)絡(luò )的多感覺(jué)概念學(xué)習模型，使類(lèi)腦智能可以像人一樣進(jìn)行基于可塑性機制學(xué)習和整合多感覺(jué)信息并在此基礎上學(xué)習人類(lèi)概念。
Q：人腦通過(guò)神經(jīng)元傳遞信息和進(jìn)行計算，和計算機實(shí)現運算的結構基礎存在本質(zhì)區別，如何讓計算機實(shí)現像人腦一樣的“認知”和“計算”？
曾毅：傳統硅基的計算機體系結構和碳基的人腦確實(shí)在信息處理基礎上存在較大鴻溝，但是這種鴻溝正在通過(guò)兩方面的努力進(jìn)行彌合。一方面是在軟件層面，仍然可以在馮諾依曼體系結構的計算系統上模擬不同類(lèi)型的神經(jīng)元、神經(jīng)網(wǎng)絡(luò )環(huán)路及其編解碼信息的機制與過(guò)程，不同類(lèi)型的神經(jīng)元及其內部的離子通道、不同類(lèi)型的突觸可塑性機制、不同類(lèi)型的突觸、不同連接模式的計算建模都成為了類(lèi)腦智能的基礎，這初步彌合了我們在討論的本質(zhì)區別。另一方面，現在正在迅速發(fā)展的神經(jīng)形態(tài)計算已經(jīng)為從硬件層面實(shí)現具備不同尺度神經(jīng)信息處理結構與機制的硬件體系結構貢獻了重要的可行性。真正彌合這種差異需要來(lái)自軟硬件兩方面的協(xié)同設計與實(shí)現。
Q：人腦可以不斷學(xué)習和進(jìn)步，類(lèi)腦智能是否也可以不斷進(jìn)化？
曾毅：經(jīng)過(guò)數億年自然演化生成的人腦不但可以不斷學(xué)習和進(jìn)步，而且還在進(jìn)行著(zhù)我們幾乎無(wú)法察覺(jué)的演化。自然演化的過(guò)程就是一個(gè)智能體在自然環(huán)境中不斷適應不斷優(yōu)化的過(guò)程。我相信類(lèi)腦智能不但可以，也只有通過(guò)這種方式才能夠實(shí)現真正類(lèi)人的智能。目前類(lèi)腦神經(jīng)網(wǎng)絡(luò )已經(jīng)有一些通過(guò)特定任務(wù)學(xué)習來(lái)自適應的調整神經(jīng)網(wǎng)絡(luò )結構的努力，甚至有些研究已經(jīng)證明網(wǎng)絡(luò )結構的自適應調整已能讓神經(jīng)網(wǎng)絡(luò )很好的應對任務(wù)。而這方面的探索遠遠只是開(kāi)了個(gè)頭。
Q：如果類(lèi)腦可以像人腦一樣進(jìn)行認知和計算，并且不斷學(xué)習和進(jìn)步，類(lèi)腦是否有可能像人一樣產(chǎn)生獨立的意識？
曾毅：我認為類(lèi)腦智能未來(lái)一定可以獲得獨立的意識，但這并不代表著(zhù)只要類(lèi)腦智能模型不斷學(xué)習就能夠在原始結構和機制上涌現出意識。人的意識仍然是以紛繁復雜的人腦意識核心神經(jīng)環(huán)路與原理的支撐下實(shí)現的，能夠以理解的方式整合來(lái)自各個(gè)感覺(jué)環(huán)路的信息并做出基于理解的決策，更重要的是以自我的視角感知環(huán)境、狀態(tài)的變化并作出自適應。
類(lèi)腦智能產(chǎn)生意識的出發(fā)點(diǎn)是自我模型，自我感知是源頭，這也是為什么我們在構造類(lèi)腦自我意識模型的時(shí)候會(huì )選擇鏡像測試作為首先突破的方向。不過(guò)需要聲明的是：即使現在我們的類(lèi)腦智能模型部署在機器人上幫助機器人通過(guò)了鏡像測試，這也并不意味著(zhù)類(lèi)腦智能獲得了自我意識。恰恰只說(shuō)明了鏡像測試很可能無(wú)法作為具有自我意識與否的黃金判斷標準。意識的本質(zhì)及具有意識的類(lèi)腦智能研究都還在最初的階段。
Q：目前正常的人類(lèi)大腦可以存在并且持續不間斷地工作至少五十年，有的甚至可以達到近百年，類(lèi)腦智能如何保持長(cháng)期穩定有效地工作？
曾毅：我想不斷地學(xué)習與訓練、不斷地自適應不同環(huán)境下的不同任務(wù)、不斷以不同的視角感知、決策、與人類(lèi)互動(dòng)，并以軟硬件協(xié)同優(yōu)化的方式演進(jìn)是類(lèi)腦智能的“生存“方式。
Q：如果類(lèi)腦智能產(chǎn)生了意識，并且可以長(cháng)期穩定的維持意識的存在，是否相當于存在了獨立人格？我們如何應對類(lèi)腦智能進(jìn)展帶來(lái)的倫理問(wèn)題？
曾毅：類(lèi)腦智能如果實(shí)現了真正意義的自我，在此基礎上形成自我體驗、自傳體記憶、具有基于自我的決策和預測能力，以及反思的能力，那么類(lèi)腦智能理論上也應能夠形成獨立的人格。但是具有自我的人工智能未見(jiàn)得對人類(lèi)是危險的，因為自我感知、認知共情、情感共情恰恰是類(lèi)腦智能對其他智能體，特別是人類(lèi)產(chǎn)生真正意義的關(guān)切的基礎。具有自我的類(lèi)腦智能對人類(lèi)很可能才是更安全的，例如我們最近受自我模型和認知共情啟發(fā)實(shí)現的能夠幫助其他智能體避免風(fēng)險的類(lèi)腦認知共情神經(jīng)網(wǎng)絡(luò )模型。但這有一個(gè)大前提，就是我們必須在類(lèi)腦智能的研究初期就前瞻思考如何實(shí)現有道德，符合倫理的類(lèi)腦智能。倫理道德不能以規則“灌輸”的方式讓類(lèi)腦智能“遵守”，因為灌輸的規則隨時(shí)可以被修改。只有基于類(lèi)腦智能的自我模型、認知與情感共情，以自主學(xué)習的方式習得的倫理道德才能夠保證類(lèi)腦智能真正具有倫理道德。
而對于類(lèi)腦智能是否能與人類(lèi)構成和諧共生的社會(huì )，問(wèn)題不僅僅是如何實(shí)現有道德的類(lèi)腦智能，關(guān)鍵問(wèn)題還在于一旦類(lèi)腦智能具備了一定水平的意識，具有自我反思能力，人類(lèi)如何去對待這樣的類(lèi)腦智能。類(lèi)腦智能發(fā)展初期，人們必然關(guān)注類(lèi)腦智能如何習得人類(lèi)價(jià)值觀(guān)和道德，而在類(lèi)腦智能發(fā)展出自我意識之前，人類(lèi)必須對與類(lèi)腦智能和諧共生提出人與類(lèi)腦智能共生的倫理框架，這是我提出“和諧人工智能原則”的初衷。
Q：在之前的“追問(wèn)”系列采訪(fǎng)中，北京大學(xué)心理與認知科學(xué)學(xué)院研究員、北京大學(xué)麥戈文腦研究所研究員羅歡提出了下面的“追問(wèn)”：
在人工智能、計算神經(jīng)科學(xué)領(lǐng)域是否有抽象結構的學(xué)習？是否有基本的數學(xué)原理能夠描述這個(gè)過(guò)程？
曾毅：應該說(shuō)人工智能，特別是神經(jīng)網(wǎng)絡(luò )的核心就是結構學(xué)習，無(wú)論是對感知類(lèi)、決策類(lèi)的任務(wù)還是符號文本知識的規則學(xué)習。人工智能中有很多抽象結構學(xué)習的方法，抽象結構表征學(xué)習的基本數學(xué)原理至少包括：通過(guò)高度復雜的非線(xiàn)性變換提取數據中潛在的結構信息。根據統計學(xué)中貝葉斯概率推斷預測未知的不確定性，由信息論評估模型學(xué)習到的結構表征所包含的信息量，再通過(guò)優(yōu)化思想例如梯度下降來(lái)實(shí)現穩定的模型優(yōu)化，在不斷的預測和優(yōu)化中學(xué)習到抽象和復雜的結構表征。此外，正則化方法/降采樣技術(shù)在幫助抽象關(guān)鍵的結構特征能夠起到防止過(guò)度學(xué)習的作用。
