北京通用人工智能研究院院長(zhǎng)朱松純:實(shí)現(xiàn)AGI的關(guān)鍵是為機(jī)器立“心”

未來,在工程架構(gòu)上,要實(shí)現(xiàn)從計(jì)算到智能的顛覆式跨越。通過行業(yè)用戶的自然語言,在智能系統(tǒng)上運(yùn)行,實(shí)現(xiàn)由價(jià)值驅(qū)動(dòng)的各種復(fù)雜的行業(yè)任務(wù)。在理論框架上,要實(shí)現(xiàn)從信息科學(xué)到智能科學(xué)的顛覆式跨越。比如,在智能體的測(cè)試上,要從圖靈測(cè)轉(zhuǎn)變到通用人工智能測(cè)試。

本文來自微信公眾號(hào)“中國(guó)電子報(bào)”。

4月27日,在2024中關(guān)村論壇年會(huì)——通用人工智能論壇上,北京通用人工智能研究院院長(zhǎng),北京大學(xué)智能學(xué)院院長(zhǎng)、人工智能研究院院長(zhǎng)朱松純表示,人工智能的科研范式要從“數(shù)據(jù)驅(qū)動(dòng)”轉(zhuǎn)向“價(jià)值驅(qū)動(dòng)”,而實(shí)現(xiàn)通用人工智能(AGI)的關(guān)鍵是為機(jī)器立“心”。

640 (1).png

圖片北京通用人工智能研究院院長(zhǎng)朱松純

“通用人工智能是技術(shù)領(lǐng)域的顛覆性突破,對(duì)生產(chǎn)生活、國(guó)家安全和人類未來會(huì)產(chǎn)生深遠(yuǎn)的影響。”朱松純表示,通用人工智能研究的目標(biāo)是尋求統(tǒng)一的理論框架解釋各種智能現(xiàn)象,并研發(fā)具備自主的感知、認(rèn)知、決策、學(xué)習(xí)、執(zhí)行和社會(huì)協(xié)作等能力,且符合人類情感、倫理與道德觀念的通用智能體。

朱松純認(rèn)為通用人工智能需具備以下三大基本特征:

一是完成無限任務(wù),在復(fù)雜動(dòng)態(tài)的物理和社會(huì)環(huán)境中不局限在預(yù)先定義的任務(wù),任務(wù)泛化。二是自主定義任務(wù),不依賴人類去定義每一個(gè)任務(wù)。三是由價(jià)值驅(qū)動(dòng),智能體的內(nèi)在價(jià)值體系要與人類價(jià)值倫理對(duì)齊。

朱松純提出,通用人工智能系統(tǒng)還需具備AI系統(tǒng)的兩個(gè)完備性:一是完備的認(rèn)知架構(gòu),即任意一個(gè)AI任務(wù)都可映射到該架構(gòu)中解決,并能分析任務(wù)的復(fù)雜度。二是完備的測(cè)試環(huán)境,即可提供任意場(chǎng)景、任意任務(wù),將人類可能遇到的任務(wù)均可在平臺(tái)上復(fù)現(xiàn)。

過去的這些年,人工智能的發(fā)展主要由數(shù)據(jù)驅(qū)動(dòng),各界往往將人工智能與大數(shù)據(jù)、大算力和大模型聯(lián)系起來。但在當(dāng)前的模式下,人工智能的產(chǎn)業(yè)化落地遇到了很多問題,比如:任務(wù)泛化性弱,在復(fù)雜場(chǎng)景難以落地;AI黑盒(指的是其內(nèi)部工作原理對(duì)用戶不可見的AI系統(tǒng))不可解釋,難以獲得人類的信任;大數(shù)據(jù)與計(jì)算的成本高昂,難以盈利。

“人工智能的科研范式應(yīng)從‘數(shù)據(jù)驅(qū)動(dòng)’轉(zhuǎn)向‘價(jià)值驅(qū)動(dòng)’。”在朱松純看來,實(shí)現(xiàn)通用人工智能的關(guān)鍵要素并不是大數(shù)據(jù)、大算力或大模型,而是為機(jī)器立“心”——智能體要有自己的認(rèn)知架構(gòu)和價(jià)值體系。

為此,科研人員需要解決認(rèn)知架構(gòu)、價(jià)值函數(shù)、自我意識(shí)、社交智能、價(jià)值驅(qū)動(dòng)、具身智能、可解釋性、人機(jī)互信等八個(gè)關(guān)鍵技術(shù)問題。

未來,在工程架構(gòu)上,要實(shí)現(xiàn)從計(jì)算到智能的顛覆式跨越。通過行業(yè)用戶的自然語言,在智能系統(tǒng)上運(yùn)行,實(shí)現(xiàn)由價(jià)值驅(qū)動(dòng)的各種復(fù)雜的行業(yè)任務(wù)。在理論框架上,要實(shí)現(xiàn)從信息科學(xué)到智能科學(xué)的顛覆式跨越。比如,在智能體的測(cè)試上,要從圖靈測(cè)轉(zhuǎn)變到通用人工智能測(cè)試。

THEEND

最新評(píng)論(評(píng)論僅代表用戶觀點(diǎn))

更多
暫無評(píng)論