出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

本周巴黎人工智能行動(dòng)峰會(huì)之前，許多科技界知名人士都提前亮出了他們對(duì)人工智能未來(lái)的愿景。

OpenAI 首席執(zhí)行官 Sam Altman 也不例外， 今天更新了個(gè)人博客，提出了一些新概念或者新提法：比如“計(jì)算預(yù)算”（ compute budget），再比如“2035 年，任何人都應(yīng)該能夠調(diào)動(dòng)與 2025 年所有人的智能總和”。

“技術(shù)進(jìn)步的歷史影響表明，我們關(guān)心的大多數(shù)指標(biāo)（健康結(jié)果、經(jīng)濟(jì)繁榮等）在平均水平和長(zhǎng)期來(lái)看都會(huì)有所改善，但促進(jìn)平等似乎并非由技術(shù)決定，要做到這一點(diǎn)可能需要新的想法，”Altman寫(xiě)道?！疤貏e是，資本和勞動(dòng)力之間的權(quán)力平衡似乎很容易被打亂，這可能需要及早干預(yù)?！?/p>

這不是 Altman 第一次聲稱通用人工智能 (AGI) 即將問(wèn)世。他將其定義為“能夠在眾多領(lǐng)域以人類(lèi)水平解決日益復(fù)雜的問(wèn)題的AI系統(tǒng)”。

Altman 警告說(shuō)，無(wú)論采用何種形式，這種 AGI 都不會(huì)完美，因?yàn)樗赡堋靶枰罅康娜祟?lèi)監(jiān)督和指導(dǎo)”。奧特曼寫(xiě)道：“AGI 系統(tǒng)不會(huì)有最偉大的新想法，它在某些方面會(huì)很出色，但在其他方面卻出奇地糟糕?！?/p>

但 Altman 斷言，AGI 的真正價(jià)值將來(lái)自于大規(guī)模運(yùn)行這些系統(tǒng)。與 OpenAI 競(jìng)爭(zhēng)對(duì)手 Anthropic 的首席執(zhí)行官 Dario Amodei 類(lèi)似，Altman 設(shè)想將有數(shù)千甚至數(shù)百萬(wàn)個(gè)超能力 AI 系統(tǒng)處理“知識(shí)工作各個(gè)領(lǐng)域的任務(wù)”。

人們可能會(huì)認(rèn)為實(shí)現(xiàn)這一愿景的成本很高。事實(shí)上，Altman 觀察到，“你可以花費(fèi)任意數(shù)量的資金，并獲得持續(xù)且可預(yù)測(cè)的收益”來(lái)提高人工智能的性能。

這或許就是為什么 OpenAI 據(jù)報(bào)道正在商談在一輪融資中籌集高達(dá) 400 億美元的資金，并承諾與合作伙伴一起在一個(gè)龐大的數(shù)據(jù)網(wǎng)絡(luò)上投資高達(dá) 5000 億美元。

然而，Altman 還指出，使用“一定水平的人工智能”的成本每 12 個(gè)月下降約 10 倍。

換句話說(shuō)，推動(dòng)人工智能技術(shù)的邊界不會(huì)變得更便宜，但用戶將在此過(guò)程中獲得越來(lái)越強(qiáng)大的系統(tǒng)。

中國(guó)人工智能初創(chuàng)公司 DeepSeek 和其他公司推出的強(qiáng)大且價(jià)格低廉的人工智能模型似乎支持了這一觀點(diǎn)。有證據(jù)表明，訓(xùn)練和開(kāi)發(fā)成本也在下降，但 Altman 和 Amodei 都認(rèn)為，要實(shí)現(xiàn) AGI 級(jí)甚至更高級(jí)別的人工智能，需要大量投資。

至于 OpenAI 計(jì)劃如何發(fā)布 AGI 級(jí)別的系統(tǒng)（假設(shè)它確實(shí)可以創(chuàng)建這些系統(tǒng)），Altman 表示，該公司可能會(huì)做出“一些與 AGI 安全相關(guān)的不受歡迎的重大決定和限制”。OpenAI曾承諾，出于對(duì)安全的擔(dān)憂，它將承諾停止與任何“價(jià)值觀一致”、“安全意識(shí)強(qiáng)”、在它之前接近建立 AGI 的項(xiàng)目競(jìng)爭(zhēng)，并開(kāi)始協(xié)助這些項(xiàng)目。

當(dāng)然，當(dāng)時(shí) OpenAI 打算保持非營(yíng)利性。該公司正在將其企業(yè)結(jié)構(gòu)轉(zhuǎn)變?yōu)楦鼈鹘y(tǒng)的、以利潤(rùn)為導(dǎo)向的組織。據(jù)報(bào)道， OpenAI 的目標(biāo)是到 2029 年實(shí)現(xiàn) 1000 億美元的收入，相當(dāng)于 Target 和雀巢目前的年銷(xiāo)售額。

鑒于此，Altman 補(bǔ)充說(shuō)，OpenAI 在構(gòu)建更強(qiáng)大的人工智能時(shí)的目標(biāo)是“更加傾向于賦予個(gè)人權(quán)力”，同時(shí)防止“獨(dú)裁政府利用人工智能通過(guò)大規(guī)模監(jiān)視和喪失自主權(quán)來(lái)控制其人口”。

Altman 最近表示，他認(rèn)為 OpenAI 在開(kāi)源技術(shù)方面站在了歷史的錯(cuò)誤一邊。雖然 OpenAI 過(guò)去曾開(kāi)源過(guò)技術(shù)，但該公司通常傾向于專有的閉源開(kāi)發(fā)方法。

“人工智能將滲透到經(jīng)濟(jì)和社會(huì)的各個(gè)領(lǐng)域；我們期望一切都變得智能，”Altman 說(shuō)?！拔覀冎械脑S多人預(yù)計(jì)需要給予人們比過(guò)去更多的技術(shù)控制權(quán)，包括更多的開(kāi)源，并接受安全和個(gè)人賦權(quán)之間的平衡，這需要權(quán)衡?！?/p>

Altman 在腳注中還補(bǔ)充了OpenAI跟微軟的合同關(guān)系，OpenAI 實(shí)際上并不打算通過(guò)使用 AGI 一詞來(lái)在短期內(nèi)結(jié)束與密切合作伙伴兼投資者微軟的關(guān)系。據(jù)報(bào)道，微軟和 OpenAI 對(duì) AGI 有一個(gè)合同定義——可以產(chǎn)生 1000 億美元利潤(rùn)的人工智能系統(tǒng)——一旦滿足這一定義，OpenAI 就可以協(xié)商更有利的投資條款。然而，Altman 表示，OpenAI“完全期待與微軟長(zhǎng)期合作”。

以下是Altman博客全文：

我們的使命是確保人工通用智能（AGI）造福全人類(lèi)。

開(kāi)始指向AGI的系統(tǒng)已初現(xiàn)端倪，因此我們認(rèn)為有必要理解我們所處的時(shí)刻。AGI是一個(gè)定義較為模糊的術(shù)語(yǔ)，但一般來(lái)說(shuō)，我們將其視為能夠在多個(gè)領(lǐng)域以人類(lèi)水平解決日益復(fù)雜問(wèn)題的系統(tǒng)。

人類(lèi)是工具制造者，天生就有理解和創(chuàng)造的驅(qū)動(dòng)力，這使得世界變得對(duì)我們所有人都更好。每一代人都在前一代人的發(fā)現(xiàn)基礎(chǔ)上，創(chuàng)造出更強(qiáng)大的工具——電力、晶體管、計(jì)算機(jī)、互聯(lián)網(wǎng)，以及即將到來(lái)的AGI。

隨著時(shí)間的推移，盡管過(guò)程時(shí)斷時(shí)續(xù)，但人類(lèi)創(chuàng)新的穩(wěn)步發(fā)展帶來(lái)了前所未有的繁榮水平，并幾乎改善了人們生活的每一個(gè)方面。

從某種意義上說(shuō)，AGI只是我們?cè)诠餐瑯?gòu)建的人類(lèi)進(jìn)步的不斷增高的腳手架中的另一種工具。從另一種意義上說(shuō)，它標(biāo)志著一種很難不說(shuō)“這次不一樣”的事物的開(kāi)始；我們面前的經(jīng)濟(jì)增長(zhǎng)看起來(lái)令人驚嘆，我們現(xiàn)在可以想象一個(gè)世界，在那里我們治愈所有疾病，有更多時(shí)間與家人共度，并充分實(shí)現(xiàn)我們的創(chuàng)造力。

在十年內(nèi)，也許地球上的每個(gè)人都能完成比今天最具影響力的人更多的事情。

我們繼續(xù)看到人工智能開(kāi)發(fā)的快速發(fā)展。以下是關(guān)于人工智能經(jīng)濟(jì)學(xué)的三個(gè)觀察結(jié)果：

1.人工智能模型的智能大致等于用于訓(xùn)練和運(yùn)行它的資源的對(duì)數(shù)。

這些資源主要是訓(xùn)練計(jì)算能力、數(shù)據(jù)和推理計(jì)算能力。似乎你可以投入任意數(shù)量的資金并獲得持續(xù)且可預(yù)測(cè)的收益；預(yù)測(cè)這一點(diǎn)的擴(kuò)展定律在多個(gè)數(shù)量級(jí)上都是準(zhǔn)確的。

2.使用給定水平人工智能的成本大約每12個(gè)月下降10倍，而更低的價(jià)格會(huì)導(dǎo)致使用量大幅增加。

你可以從2023年初的GPT-4到2024年中期的GPT-4o的代幣成本中看到這一點(diǎn)，在這段時(shí)間內(nèi)，每個(gè)代幣的價(jià)格下降了大約150倍。摩爾定律以每18個(gè)月2倍的速度改變了世界；這簡(jiǎn)直令人難以置信地強(qiáng)大。

3.線性增長(zhǎng)的智能所帶來(lái)的社會(huì)經(jīng)濟(jì)價(jià)值呈超指數(shù)級(jí)增長(zhǎng)。

由此產(chǎn)生的一個(gè)結(jié)果是，我們看不到指數(shù)級(jí)增長(zhǎng)的投資在不久的將來(lái)會(huì)停止的理由。

如果這三個(gè)觀察結(jié)果繼續(xù)成立，對(duì)社會(huì)的影響將是巨大的。

我們現(xiàn)在開(kāi)始推出人工智能代理，這些代理最終會(huì)讓人感覺(jué)像是虛擬同事。

讓我們?cè)O(shè)想一下軟件工程代理的情況，這是一種我們預(yù)計(jì)特別重要的代理。設(shè)想這個(gè)代理最終將能夠完成大多數(shù)在頂級(jí)公司有幾年經(jīng)驗(yàn)的軟件工程師能夠完成的大部分任務(wù)，對(duì)于長(zhǎng)達(dá)幾天的任務(wù)也是如此。它不會(huì)有最大的新想法，它需要大量的人類(lèi)監(jiān)督和指導(dǎo)，它會(huì)在某些事情上表現(xiàn)出色，但在其他事情上卻出人意料地糟糕。

然而，設(shè)想它是一個(gè)真實(shí)但相對(duì)初級(jí)的虛擬同事?，F(xiàn)在設(shè)想有1000個(gè)這樣的代理?；蛘?00萬(wàn)個(gè)。現(xiàn)在設(shè)想在知識(shí)工作的每個(gè)領(lǐng)域都有這樣的代理。

在某些方面，人工智能可能會(huì)像晶體管在經(jīng)濟(jì)上一樣——一項(xiàng)能夠大規(guī)模擴(kuò)展并滲透到經(jīng)濟(jì)幾乎每一個(gè)角落的重大科學(xué)發(fā)現(xiàn)。我們不太會(huì)去想晶體管，或者晶體管公司，而這些收益是非常廣泛地分布的。但我們確實(shí)期望我們的電腦、電視、汽車(chē)、玩具等能夠創(chuàng)造奇跡。

世界不會(huì)一下子改變；它從未如此。在短期內(nèi)，生活大多會(huì)保持不變，2025年的人們大多會(huì)像2024年一樣度過(guò)時(shí)間。我們?nèi)匀粫?huì)墜入愛(ài)河、組建家庭、在網(wǎng)上爭(zhēng)吵、徒步旅行等。

但未來(lái)將以一種無(wú)法忽視的方式向我們襲來(lái)，對(duì)我們社會(huì)和經(jīng)濟(jì)的長(zhǎng)期變化將是巨大的。我們會(huì)發(fā)現(xiàn)新的事情去做，新的方式為彼此提供幫助，以及新的競(jìng)爭(zhēng)方式，但它們可能與今天的工作看起來(lái)非常不同。

自主性、意志力和決心可能會(huì)極其有價(jià)值。

正確決定做什么以及如何應(yīng)對(duì)不斷變化的世界將具有巨大價(jià)值；韌性和適應(yīng)性將是值得培養(yǎng)的技能。AGI將是人類(lèi)意志力有史以來(lái)最大的杠桿，它將使個(gè)人能夠比以往任何時(shí)候都產(chǎn)生更大的影響，而不是更少。

我們預(yù)計(jì)AGI的影響將是不均衡的

。盡管一些行業(yè)可能變化不大，但科學(xué)進(jìn)步可能會(huì)比今天快得多；AGI的這一影響可能會(huì)超過(guò)其他一切。

許多商品的價(jià)格最終將大幅下降（目前，智能和能源的成本限制了許多事情），而奢侈品和一些固有有限資源（如土地）的價(jià)格可能會(huì)更加戲劇性地上升。

從技術(shù)角度來(lái)看，我們面前的道路看起來(lái)相當(dāng)清晰。但公眾政策和我們?nèi)绾螌GI融入社會(huì)的集體意見(jiàn)非常重要；我們提前推出產(chǎn)品的一個(gè)原因就是為社會(huì)和技術(shù)提供共同進(jìn)化的空間。

人工智能將滲透到經(jīng)濟(jì)和社會(huì)的所有領(lǐng)域；我們將期望一切都能變得智能化。我們中的許多人期望需要比以往歷史上給予人們更多的對(duì)技術(shù)的控制權(quán)，包括更多地開(kāi)源，并接受安全與個(gè)人賦能之間需要權(quán)衡的事實(shí)。

盡管我們永遠(yuǎn)不想魯莽行事，而且可能會(huì)有一些與AGI安全相關(guān)的重大決策和限制措施會(huì)不受歡迎，但從方向上來(lái)說(shuō)，隨著我們?cè)絹?lái)越接近實(shí)現(xiàn)AGI，我們相信傾向于更多地賦予個(gè)人權(quán)力是重要的；我們能看到的另一條可能的道路是，人工智能被威權(quán)政府用來(lái)通過(guò)大規(guī)模監(jiān)控和失去自主性來(lái)控制其人口。

確保AGI的利益廣泛分配至關(guān)重要。技術(shù)進(jìn)步的歷史影響表明，我們關(guān)心的大多數(shù)指標(biāo)（健康結(jié)果、經(jīng)濟(jì)繁榮等）平均而言和從長(zhǎng)期來(lái)看都會(huì)變得更好，但促進(jìn)平等似乎并不是由技術(shù)決定的，而要實(shí)現(xiàn)這一點(diǎn)可能需要新的想法。

特別是，資本和勞動(dòng)之間的權(quán)力平衡很容易被破壞，這可能需要早期干預(yù)。我們對(duì)一些聽(tīng)起來(lái)奇怪的想法持開(kāi)放態(tài)度，比如給予每個(gè)人一些“計(jì)算預(yù)算”，以便地球上每個(gè)人都能使用大量人工智能，但我們也能看到很多方法，通過(guò)不斷將智能成本降低到盡可能低的水平，也能達(dá)到理想的效果。

到2035年，任何人都應(yīng)該能夠調(diào)動(dòng)相當(dāng)于2025年所有人智力總和的智力能力；每個(gè)人都應(yīng)該能夠獲得無(wú)限的智慧，并按照他們能想象的任何方式加以利用。目前有很多人才沒(méi)有足夠的資源來(lái)充分展現(xiàn)自己，如果我們改變這一點(diǎn)，世界由此產(chǎn)生的創(chuàng)造性產(chǎn)出將為我們所有人帶來(lái)巨大的好處。

特別感謝 Josh Achiam、Boaz Barak 和 Aleksander Madry 審閱本文草稿。

*我們?cè)谶@里使用 AGI 一詞，旨在清晰地溝通，我們無(wú)意改變或解釋定義我們與微軟關(guān)系的定義和流程。

我們完全期待與微軟長(zhǎng)期合作。這個(gè)腳注看起來(lái)很愚蠢，但另一方面，我們知道有些記者會(huì)試圖通過(guò)寫(xiě)一些愚蠢的東西來(lái)獲得點(diǎn)擊量，所以我們?cè)谶@里先發(fā)制人……

參考鏈接：?? https://blog.samaltman.com/three-observations??

?本文轉(zhuǎn)載自??51CTO技術(shù)棧??