今天凌晨，谷歌Deepmind在官網(wǎng)發(fā)布了，用于設(shè)計(jì)高級(jí)算法的編程AI Agent——AlphaEvolve。

AlphaEvolve與谷歌的大模型Gemini實(shí)現(xiàn)深度集成，用于自動(dòng)評(píng)估通用算法的發(fā)現(xiàn)與優(yōu)化，可以幫助開發(fā)人員快速設(shè)計(jì)出最好、高效的矩陣算法。

簡(jiǎn)單來說，大模型擅長(zhǎng)生成各種想法和算法，但是沒人知道這些到底行不行，而AlphaEvolve相當(dāng)于“質(zhì)檢員”，能夠按照特定標(biāo)準(zhǔn)來衡量這些想法是否可行。

AlphaEvolve超強(qiáng)能力

谷歌在展示AlphaEvolve的能力時(shí)，就特意找了一道300多年的數(shù)學(xué)難題——親吻數(shù)問題。

這道題的歷史最早可以追溯到1694年，牛頓還和別人辯論、研究過。其難點(diǎn)在于給定維度的空間中，最多可以有多少個(gè)相同大小的球體同時(shí)接觸一個(gè)中心球體，這些球體之間不發(fā)生重疊。

而AlphaEvolve發(fā)現(xiàn)了由593個(gè)外層球體組成的結(jié)構(gòu)型，并在11維空間中建立了新的下界，超越之前數(shù)學(xué)家們創(chuàng)造的記錄。

AlphaEvolve還能為復(fù)雜的數(shù)學(xué)問題提出新的解決方法?；跇O簡(jiǎn)代碼框架，AlphaEvolve設(shè)計(jì)了一種基于梯度的新型優(yōu)化程序的諸多組件，并發(fā)現(xiàn)了多種用于矩陣乘法的新算法。

AlphaEvolve找到了一種用于4x4復(fù)值矩陣乘法的算法，該算法僅需48次標(biāo)量乘法，改進(jìn)了Strassen在1969年提出的算法，后者此前被認(rèn)為是該場(chǎng)景下的最佳算法。這一發(fā)現(xiàn)表明，與谷歌之前專注于矩陣乘法算法的研究成果AlphaTensor相比，取得了重大進(jìn)展。

此外，谷歌使用AlphaEvolve來增強(qiáng)大模型的訓(xùn)練和推理。AlphaEvolve將大規(guī)模矩陣乘法運(yùn)算拆解為更易于處理的子問題，使Gemini模型架構(gòu)中的核心計(jì)算效率提升了23%，整體訓(xùn)練時(shí)間縮短了1%，節(jié)省大量成本。

AlphaEvolve還能對(duì)GPU底層指令進(jìn)行優(yōu)化。這是一個(gè)極其復(fù)雜的領(lǐng)域，通常編譯器已對(duì)其進(jìn)行了深度優(yōu)化，所以，人類工程師一般不會(huì)直接對(duì)其進(jìn)行修改。

AlphaEvolve實(shí)現(xiàn)了基于Transformer的人工智能模型中FlashAttention核心計(jì)算最高達(dá)32.5%的加速。這類優(yōu)化有助于專家精準(zhǔn)定位性能瓶頸，并能輕松地將優(yōu)化成果整合到代碼庫中，極大提高了工作效率。

AlphaEvolve架構(gòu)簡(jiǎn)單介紹

任務(wù)定義與評(píng)估模塊是AlphaEvolve的核心之一，主要負(fù)責(zé)明確用戶的需求，包括評(píng)估標(biāo)準(zhǔn)、初始解決方案以及背景知識(shí)。通過一個(gè)自動(dòng)化的評(píng)估機(jī)制來衡量生成的解決方案的質(zhì)量，這一機(jī)制以函數(shù)的形式存在，將解決方案映射到一組標(biāo)量評(píng)估指標(biāo)上。

這些指標(biāo)通常是最大化的目標(biāo)，例如，在數(shù)學(xué)問題中，如果目標(biāo)是找到滿足特定屬性的最大可能圖，評(píng)估函數(shù)將調(diào)用進(jìn)化代碼生成圖，檢查屬性是否成立，然后返回圖的大小作為得分。

大模型集成與提示采樣模塊負(fù)責(zé)構(gòu)建上下文提示，這些提示包括明確的上下文信息，例如，問題的詳細(xì)描述、方程式、代碼片段或相關(guān)文獻(xiàn)；隨機(jī)格式化，通過概率分布提供人類編寫的替代方案以增加多樣性；渲染的評(píng)估結(jié)果，包括程序、執(zhí)行結(jié)果以及評(píng)估函數(shù)分配的分?jǐn)?shù)；以及元提示進(jìn)化，由大模型本身在額外的提示生成步驟中建議的指令和上下文，這些內(nèi)容與解決方案程序在單獨(dú)的數(shù)據(jù)庫中共同進(jìn)化，為大模型提供了豐富的信息，使其能夠生成更準(zhǔn)確和有效的代碼修改建議。

創(chuàng)造性生成與代碼修改是AlphaEvolve另外一個(gè)核心模塊，主要利用大模型的能力來生成代碼修改建議。這些大模型能夠處理豐富的上下文信息，并根據(jù)過去的嘗試和想法提出新的改進(jìn)方案。

當(dāng)AlphaEvolve要求大模型修改現(xiàn)有代碼時(shí)，它會(huì)請(qǐng)求以特定格式的差異塊提供更改，這種格式允許對(duì)代碼的特定部分進(jìn)行針對(duì)性的更新。在某些情況下，如果代碼非常短，或者需要完全重寫，AlphaEvolve可以配置為直接輸出整個(gè)代碼塊，而不是使用差異格式。

評(píng)估與反饋模塊負(fù)責(zé)跟蹤AlphaEvolve的進(jìn)展，并選擇在后續(xù)代中傳播哪些想法。每個(gè)由大模型提出的新解決方案都會(huì)被自動(dòng)評(píng)估，這一過程本質(zhì)上是簡(jiǎn)單地在生成的解決方案上執(zhí)行用戶提供的評(píng)估函數(shù)。

AlphaEvolve支持一些可選機(jī)制，使評(píng)估更加靈活和高效，例如，評(píng)估級(jí)聯(lián)，用戶可以指定一系列難度遞增的測(cè)試用例，只有在所有早期階段都取得足夠有希望的結(jié)果時(shí)，新解決方案才會(huì)進(jìn)入下一個(gè)階段；大模型生成的反饋，用于評(píng)估那些難以在用戶提供的評(píng)估函數(shù)?中精確捕捉的解決方案特性；以及并行化評(píng)估，通過異步調(diào)用評(píng)估集群來分配這項(xiàng)工作，從而提高評(píng)估效率。

進(jìn)化與數(shù)據(jù)庫管理負(fù)責(zé)存儲(chǔ)和管理在進(jìn)化過程中生成的解決方案。這些解決方案存儲(chǔ)在一個(gè)進(jìn)化數(shù)據(jù)庫中，其主要目標(biāo)是在后續(xù)代中最佳地重新出現(xiàn)先前探索的想法。設(shè)計(jì)這種數(shù)據(jù)庫的一個(gè)關(guān)鍵挑戰(zhàn)是平衡探索和利用，以持續(xù)改進(jìn)最佳程序，同時(shí)保持多樣性以鼓勵(lì)整個(gè)搜索空間的探索。

AlphaEvolve的進(jìn)化數(shù)據(jù)庫實(shí)現(xiàn)了一種算法，該算法受到MAP精英算法和基于島嶼的種群模型的啟發(fā)。

分布式計(jì)算管道模塊使AlphaEvolve能夠作為一個(gè)異步計(jì)算管道運(yùn)行。每個(gè)計(jì)算在等待另一個(gè)尚未完成的計(jì)算結(jié)果時(shí)都會(huì)阻塞。整個(gè)管道針對(duì)吞吐量進(jìn)行了優(yōu)化，而不是任何特定計(jì)算的速度，以最大化在特定總體計(jì)算預(yù)算內(nèi)可以提出和評(píng)估的想法數(shù)量。

目前，有興趣的小伙伴可以去谷歌Deepmind官網(wǎng)申請(qǐng)使用AlphaEvolve，尤其是對(duì)于科研、數(shù)學(xué)、設(shè)計(jì)領(lǐng)域的小伙伴幫助很大。