谷歌 Deepmind 的研究人員表示，AI 系統(tǒng)具備開放式的能力是發(fā)展超級(jí)智能的關(guān)鍵。他們認(rèn)為，單純依靠不斷擴(kuò)大的數(shù)據(jù)集并不足以實(shí)現(xiàn)超級(jí)人工智能(ASI)，而現(xiàn)有的規(guī)模化策略往往集中在使用更多的計(jì)算資源和數(shù)據(jù)。相反，AI 系統(tǒng)必須能夠以開放式的方式產(chǎn)生新知識(shí)，并自主改進(jìn)其學(xué)習(xí)能力。

　　研究人員將 AI 系統(tǒng)定義為 “開放式” 的，如果它不斷產(chǎn)生新的、難以預(yù)測(cè)的且具有學(xué)習(xí)意義的物件，即使觀察者通過研究過去的物件已經(jīng)變得更擅長(zhǎng)于預(yù)測(cè)。AI 生成內(nèi)容的開放性取決于觀察者是否將生成的事物視為新的，并且能否從中學(xué)到東西。舉例來說，對(duì)于老鼠來說，飛機(jī)是新的，但它無(wú)法理解背后的原理。對(duì)于航空航天工程學(xué)生來說，飛機(jī)的設(shè)計(jì)是新的且具有學(xué)習(xí)意義，這使得系統(tǒng)在這種情況下是開放的。一個(gè)具有廣泛航空知識(shí)的外星人可能并不覺得這些設(shè)計(jì)是新的，但它可以分析和理解它們。

　　研究人員舉例說明了一些開放系統(tǒng)及其局限性。AlphaGo 能不斷制定新的策略來?yè)魯�學(xué)習(xí)中的人類，但僅限于人類設(shè)定的規(guī)則內(nèi)。盡管這樣的系統(tǒng)是開放的，但它太狹窄，無(wú)法發(fā)現(xiàn)新的科學(xué)或技術(shù)。另一個(gè)例子是 “AdA” 代理，它在一個(gè)具有數(shù)十億種可能變化的3D 世界中解決任務(wù)。通過訓(xùn)練，AdA 逐漸獲得了在越來越復(fù)雜和陌生的環(huán)境中的技能。

　　然而，這種開放性在環(huán)境設(shè)置的限制下存在局限性:POET 系統(tǒng)訓(xùn)練與不斷發(fā)展的環(huán)境相連接的代理。通過在環(huán)境之間進(jìn)行切換，代理最終解決了通過直接優(yōu)化無(wú)法解決的非常復(fù)雜的任務(wù)。然而，這種開放性受環(huán)境設(shè)置的限制:在某個(gè)時(shí)刻，POET，就像 AdA 一樣，達(dá)到了一個(gè)極限。

　　與之相反的是，當(dāng)前的基礎(chǔ)模型，如大型語(yǔ)言模型，不是 “開放式” 的，因?yàn)樗鼈兪窃陟o態(tài)數(shù)據(jù)集上訓(xùn)練的;它們最終會(huì)停止產(chǎn)生新的物件。根據(jù)論文，它們將 “很快達(dá)到瓶頸”。然而，如果它們不斷得到新數(shù)據(jù)并與開放式方法(如強(qiáng)化學(xué)習(xí)、自我改進(jìn)、自動(dòng)生成任務(wù)和進(jìn)化算法)結(jié)合，它們可能會(huì)引領(lǐng)開放系統(tǒng)的道路。

　　研究人員還警告存在重大的安全風(fēng)險(xiǎn)。所產(chǎn)生的物件必須始終能夠?yàn)槿祟愃�理解和控制。必須從一開始就將安全性內(nèi)置到開放式系統(tǒng)的設(shè)計(jì)中，以防止超級(jí)智能 AI 失控。但是，如果這些挑戰(zhàn)能夠被克服，研究人員相信開放式基礎(chǔ)模型可能會(huì)實(shí)現(xiàn)科學(xué)和技術(shù)領(lǐng)域的重大突破。

　　Deepmind 聯(lián)合創(chuàng)始人 Demis Hassabis 在一年前暗示谷歌 Deepmind 正在測(cè)試將 AlphaGo 等系統(tǒng)的優(yōu)勢(shì)與大型模型的知識(shí)相結(jié)合。然而，迄今為止谷歌發(fā)布的 Gemini 模型尚未提供如此突破性的創(chuàng)新，而且它幾乎無(wú)法與 OpenAI 的 GPT-4相媲美。OpenAI 的 Q * 模型也可能旨在結(jié)合類似于谷歌 Deepmind 的 AlphaZero 與語(yǔ)言模型的想法，類似于微軟研究人員最近展示的 “Everything of Thought”。