隨著ChatGPT等大模型的出現(xiàn),AGI概念正在從哲學(xué)層面快速轉(zhuǎn)向?qū)嶋H應(yīng)用落地，并且ChatGPT已經(jīng)展示出了初級(jí)AGI的功能（如AutoGPT）,有不少專家認(rèn)為，AGI時(shí)代可能在10年內(nèi)到來。

因此，需要一個(gè)明確的技術(shù)框架來討論和衡量不同系統(tǒng)的AGI能力。谷歌的DeepMind研究人員提出了6項(xiàng)關(guān)于“AGI框架”的定義原則。

基于這些原則,又提出了表現(xiàn)力和通用性兩個(gè)維度的AGI技術(shù)框架,包含5個(gè)表現(xiàn)力等級(jí)(初級(jí)、熟練、專家、大師和超人)和通用詳細(xì)等級(jí)劃分。

論文地址：https://arxiv.org/abs/2311.02462

谷歌研究人員表示，這一框架有助于指導(dǎo)AGI定義和風(fēng)險(xiǎn)評(píng)估，為技術(shù)研究指明了發(fā)展方向。期待學(xué)術(shù)界可以在此基礎(chǔ)上開展后續(xù)研究,逐步完善AGI的量化框架和基準(zhǔn)測(cè)試,以更準(zhǔn)確地衡量AI的進(jìn)步,并謹(jǐn)慎應(yīng)對(duì)風(fēng)險(xiǎn)。

AGI簡(jiǎn)單介紹

AGI英文全稱是Artificial General Intelligence，中文譯為通用人工智能。AGI是指在任何任務(wù)上，AI都可以像人類一樣表現(xiàn)出高度適應(yīng)性和靈活性，高效率地完成指定任務(wù)。

當(dāng)前的AI通常被設(shè)計(jì)為在特定的任務(wù)或問題范圍內(nèi)表現(xiàn)出色，而AGI能夠跨領(lǐng)域?qū)W習(xí)、理解、推理并應(yīng)用所學(xué)知識(shí)。

ChatGPT已經(jīng)具備初級(jí)AGI功能，例如，它既能當(dāng)情感伴侶與你聊天，也能查看郵件、生成創(chuàng)意文本/圖片等，幫你處理日常工作。

AGI的主要技術(shù)特征包括學(xué)習(xí)、推理、理解、感知、創(chuàng)造、通用學(xué)習(xí)、自我意識(shí)等重要能力。

學(xué)習(xí)能力：AGI應(yīng)能夠自主學(xué)習(xí)新任務(wù)，而無需針對(duì)每項(xiàng)任務(wù)的特殊編程。

推理能力：能夠用擬人化的邏輯推理來解決復(fù)雜問題。

理解力：可以理解語言、概念、情感等，以及如何處理它們之間的關(guān)系。

感知能力：能夠通過感官（例如，計(jì)算機(jī)視覺、語音識(shí)別）來感知這個(gè)世界。

創(chuàng)造力：能夠創(chuàng)造性地解決問題，例如，生成圖片、語音、視頻等。

通用學(xué)習(xí)：能夠?qū)⒃谝活I(lǐng)域?qū)W到的知識(shí)，遷移到其他領(lǐng)域。

自我意識(shí)：理論上，AGI需具備記憶存儲(chǔ)、歷史查詢的能力，讓其擁有自我意識(shí)以提升工作效率。

谷歌對(duì)于AGI則提出了6項(xiàng)更具體，有指導(dǎo)意義的原則，這有助于該技術(shù)以健康、安全的方式發(fā)展。

通用性和表現(xiàn)力

衡量一個(gè)AGI需要同時(shí)考量其通用性和表現(xiàn)力兩個(gè)維度。通用性指能夠處理任務(wù)的廣度和多樣性,表現(xiàn)力指在這些任務(wù)上達(dá)到的水平。

高通用性和表現(xiàn)力都對(duì)AGI意義重大且不可或缺。一個(gè)系統(tǒng)即使在很多任務(wù)上有出色表現(xiàn),如果這些任務(wù)過于相似或局限,也難稱為AGI。

反過來,一個(gè)極為通用的系統(tǒng),如果所有任務(wù)的完成質(zhì)量都很差,也與人類智能難以媲美。通用性和表現(xiàn)力必須同時(shí)達(dá)標(biāo),才可能成為AGI。谷歌對(duì)于這兩個(gè)維度給出了詳細(xì)的定義框架。

1）表現(xiàn)力

初級(jí)(Emerging)

要求與不熟練的人類差不多或略勝。對(duì)應(yīng)狹窄AI中的早期專家系統(tǒng),通用AI中的大型語言模型。

熟練(Competent)

要求超過50%熟練成人的表現(xiàn)。對(duì)應(yīng)狹窄AI中的語音助手、VQA系統(tǒng)等。尚無通用AI達(dá)到。

專家(Expert)

要求超過90%熟練成人的表現(xiàn)。對(duì)應(yīng)狹窄AI中的語法檢查、圖像生成模型等。尚無通用AI達(dá)到。

大師(Virtuoso)

要求超過99%熟練成人的表現(xiàn)。對(duì)應(yīng)狹窄AI中的圍棋軟件AlphaGo等。尚無通用AI達(dá)到。

超人(Superhuman)

要求超過100%人類的表現(xiàn),做到人類根本無法企及的任務(wù)。對(duì)應(yīng)狹窄AI中的AlphaFold蛋白結(jié)構(gòu)預(yù)測(cè)等。

2）通用性

狹窄AI(Narrow AI)

只能處理一小類特定的任務(wù)。不同表現(xiàn)力層次要求同上。

通用AI(General AI)

需要能處理廣泛的認(rèn)知任務(wù),包括語言、邏輯、創(chuàng)造等大部分人類有能力的任務(wù)。

不同表現(xiàn)力層次對(duì)應(yīng)的最低要求如下:

初級(jí):各任務(wù)表現(xiàn)尚可,但大多數(shù)任務(wù)不佳。

熟練:大多數(shù)任務(wù)達(dá)到一般人中等水平。

專家:大多數(shù)任務(wù)超過90%人類表現(xiàn)。

大師:所有任務(wù)超過99%人類表現(xiàn)。

超人:所有任務(wù)超出人類極限。

關(guān)注能力而非機(jī)制

AGI的定義應(yīng)該關(guān)注AI系統(tǒng)的能力,而不是實(shí)現(xiàn)這些能力的具體機(jī)制。例如,我們不應(yīng)該要求AGI必須通過類似人腦的學(xué)習(xí)機(jī)制來實(shí)現(xiàn)其能力,也不應(yīng)將AGI的定義建立在“強(qiáng)AI”這樣主觀意識(shí)方面的假設(shè)上。AGI的重點(diǎn)應(yīng)是評(píng)估其可以完成的任務(wù)類型和效果。

這條原則的合理性在于,神經(jīng)網(wǎng)絡(luò)等當(dāng)前主流技術(shù)的成功正是建立在不完全擬人的基礎(chǔ)上。與人腦相比,它們有著完全不同的計(jì)算機(jī)構(gòu)成和信息處理方式。

面向能力而非特定機(jī)制,既可以避免因?yàn)榧僭O(shè)了不必要的實(shí)現(xiàn)條件而過早地限制AGI的定義,也可以忽略那些目前難以科學(xué)檢驗(yàn)的主觀意識(shí)屬性,把討論集中在較為客觀和可操作的能力層面。

元認(rèn)知能力

AGI的定義應(yīng)該關(guān)注處理非物理世界的認(rèn)知任務(wù),而不是要求必須具備機(jī)器人那樣的物理能力。元認(rèn)知能力,如學(xué)習(xí)新技能的能力,也被認(rèn)為是AGI達(dá)到高通用性的關(guān)鍵。

之所以這樣,是因?yàn)槟壳霸诜俏锢眍I(lǐng)域如語言、視覺、推理等方面,AI系統(tǒng)取得的進(jìn)展明顯領(lǐng)先于具備實(shí)際移動(dòng)操作能力的機(jī)器人。

將物理能力作為AGI的先決條件,顯然過于苛刻。當(dāng)然,長(zhǎng)遠(yuǎn)來看,在物理世界獲得經(jīng)驗(yàn)可能會(huì)提升一些認(rèn)知能力,但短期內(nèi)應(yīng)該關(guān)注AI已比較拔尖的認(rèn)知能力。

關(guān)注潛力而非部署

谷歌認(rèn)為，我們不應(yīng)該要求一個(gè)系統(tǒng)必須被實(shí)際大規(guī)模部署,才能被認(rèn)定為AGI。只要一個(gè)系統(tǒng)能夠在受控環(huán)境下,通過標(biāo)準(zhǔn)測(cè)試展示完成某類別任務(wù)的能力,就可以認(rèn)定它具備對(duì)應(yīng)的AGI水平。

因?yàn)閷?shí)際部署會(huì)帶來很多技術(shù)之外的障礙,如法律監(jiān)管、社會(huì)接受度等。把部署作為AGI的必要條件,讓AGI的判定標(biāo)準(zhǔn)包含了太多非技術(shù)因素。我們應(yīng)該關(guān)注AI系統(tǒng)的本質(zhì)能力,而不是它的實(shí)際應(yīng)用程度。

關(guān)于生態(tài)

用于衡量AGI的任務(wù)應(yīng)具有生態(tài)效度,即與人類在現(xiàn)實(shí)生活中重視的任務(wù)盡可能接近。不應(yīng)只關(guān)注那些易于量化但是與實(shí)際生活脫節(jié)的任務(wù)。

現(xiàn)有的許多AI基準(zhǔn)測(cè)試過于簡(jiǎn)化,脫離實(shí)際場(chǎng)景,很難真正評(píng)估一個(gè)系統(tǒng)在復(fù)雜環(huán)境下協(xié)助人類的能力。

相反,我們需要設(shè)計(jì)更貼近真實(shí)世界,模擬人類活動(dòng)的測(cè)試,以得到對(duì)AGI實(shí)際能力的準(zhǔn)確評(píng)估。這需要我們跳出傳統(tǒng)的思維定勢(shì),不僅追求易測(cè)量,也要追求對(duì)用戶有意義。

關(guān)注通往AGI的路徑,而非單一目標(biāo)

谷歌認(rèn)為，我們應(yīng)該將AGI視為一個(gè)連續(xù)發(fā)展的過程,而不是一個(gè)固定的目標(biāo)。需要設(shè)定AGI發(fā)展路徑上的多個(gè)進(jìn)展階段,而不是只關(guān)注最終的AGI概念。

這種層次化和漸進(jìn)的方法有助于我們理解和把控AGI的進(jìn)展軌跡。不同層次也對(duì)應(yīng)著不同的風(fēng)險(xiǎn)和對(duì)策。

如果只一味追求最終的AGI,很容易忽視進(jìn)展過程中的重要問題。而一個(gè)循序漸進(jìn)的多階段框架,則支持我們?cè)诿恳徊蕉紝徤鞯卦u(píng)估機(jī)遇和風(fēng)險(xiǎn),以確保AI的健康發(fā)展。

本文素材來源谷歌論文，如有侵權(quán)請(qǐng)聯(lián)系刪除

繼續(xù)閱讀：

未經(jīng)允許不得轉(zhuǎn)載：RPA中國(guó) | RPA全球生態(tài) | 數(shù)字化勞動(dòng)力 | RPA新聞 | 推動(dòng)中國(guó)RPA生態(tài)發(fā)展 | 流 > 谷歌提出AGI的6大原則，和5大能力等級(jí)