大模型談錢，不寒磣。

前些日子朱嘯虎和楊植麟的隔空對話，代表了技術(shù)派和市場派的兩種觀點。朱嘯虎不看好大模型創(chuàng)業(yè)，認為現(xiàn)階段大模型公司缺乏場景和數(shù)據(jù)，估值過高，且面臨開源模型的競爭，投資風險大。他更傾向于投資能快速商業(yè)化、變現(xiàn)的應(yīng)用層項目。

楊植麟堅定看好大模型創(chuàng)業(yè)，認為這是未來十年唯一有意義的事，并將其視為一個結(jié)合科學、工程和商業(yè)的系統(tǒng)，需要長期投入和堅持，最終目標是實現(xiàn)AGl。

雖然兩者觀點看起來針鋒相對，但有一點并不沖突，不論是在通向AGI的過程中“沿途下蛋”，還是現(xiàn)在就投資能看到產(chǎn)出的大模型應(yīng)用公司，今年大模型的商業(yè)化，一定是離錢越來越近。

若論國內(nèi)對大模型商業(yè)化最熱衷的企業(yè)，百度一定是其中之一。據(jù)此前報道，2024年百度創(chuàng)始人李彥宏在百度智能云方向的OKR就是，跑通以大模型為核心智能云發(fā)展路徑，并且在收入和利潤方面都有要求。

百度智能云是百度AI能力的輸出口，海外市場大模型與云服務(wù)結(jié)合得比國內(nèi)更緊密，這也是百度智能云希望努力的方向。

3月21日，百度智能云千帆大模型平臺就一口氣發(fā)布了5款新模型，包括3個輕量級大模型、2個垂直場景大模型，并且千帆ModelBuilder以千帆AppBuilder也同步升級。鈦媒體App了解到，百度后續(xù)還將發(fā)布大模型應(yīng)用產(chǎn)品，譬如銷售、客服、辦公等產(chǎn)品。

可以說，目前百度大模型商業(yè)化只有一條主線，讓盡可能多的一部分人先用大模型，由此改變自己的產(chǎn)品和面向客戶的服務(wù)。

大模型落地“值不值”

初期大模型的火熱，未必能轉(zhuǎn)化為實實在在的訂單，在大模型技術(shù)和產(chǎn)業(yè)的高速發(fā)展期，有些廠商已經(jīng)被歷史的車輪碾過，但卻絲毫不起一絲波瀾。

“慘烈，我覺得是很慘烈，從去年到現(xiàn)在有很多基礎(chǔ)模型廠商參與到市場競爭，也有很多的企業(yè)資金鏈受到了一些挑戰(zhàn)，也反映出新技術(shù)發(fā)展過程中的一些矛盾?！卑俣戎悄茉艫I與大數(shù)據(jù)平臺總經(jīng)理忻舟說道。

這其中一個很重要的因素，就是大模型供需之間的錯位，大量企業(yè)沒有掏出真金白銀，而是處在觀望階段。從企業(yè)使用大模型的角度，主要關(guān)注三個因素，一是效果好不好，二是成本是否足夠低，三是效率，因此多數(shù)企業(yè)并不關(guān)心大模型或者小模型，只會結(jié)合自己的預(yù)期評估大模型落地到自己的場景“值不值”。

百度也提出了自己“效價比”的理念，除了極少的大客戶對大模型有極致的效果追求，更多的企業(yè)和機構(gòu)往往要綜合考量大模型的使用效果、性能以及成本，即“效價比”

面向大模型如何落地，業(yè)內(nèi)想了各種各樣的技術(shù)方法，比如RAG、插件、MoE、小型化、大小協(xié)同等等各種各樣的問題，輕量級模型就是公認的“效價比”突出的方案。

“業(yè)界也逐漸形成一個共識，模型不見得是參數(shù)規(guī)模越大越好。在很多實際的場景當中，用小尺寸的專家模型也能夠達到我們通用大模型的效果，小尺寸專家模型的推理成本會更低，更便宜?！卑俣雀笨偛弥x廣軍表示。

他還提到，本次發(fā)布的三款模型都是開發(fā)專家模型的基座模型，主要面向兩個場景：一是客戶、合作伙伴結(jié)合自己的數(shù)據(jù)，去做垂類場景模型。二是百度也會基于這些小的基座模型，去開發(fā)第一方的行業(yè)垂類場景模型，比如做教育行業(yè)的教輔答題和解題，可以用一個小尺寸的模型加上一些數(shù)據(jù)，精調(diào)出一個效果很好的解題助手模型。

“3+2”，5款新模型

一月初，OpenAI發(fā)布了多款新模型，價格下降，性能提升，百度本次也是同樣的策略，百度智能云千帆ModelBuilder發(fā)布了包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內(nèi)，參數(shù)量由大到小的三款輕量級大模型。千帆ModelBuilder的概念就是生產(chǎn)平臺，提供整個模型訓(xùn)練的工具鏈，讓模型開發(fā)變得更簡單。

對于輕量級模型，謝廣軍表示，基座模型本身的效率一定要好，百度基于文心大模型的技術(shù)領(lǐng)先優(yōu)勢積累，再把尺寸做小，模型的效果就會做得很好，在很多場景它能夠達到大模型的效果。

同時，百度發(fā)布的輕量級模型具備再生產(chǎn)能力，比如支持post-pretrain、sft、lora精調(diào)能力，基座模型加上精調(diào)數(shù)據(jù)來達到垂直場景下的效果，同時成本更低。

具體來看，ERNIE Speed在推理場景下?lián)碛凶罡?28k的上下文長度，在處理知識問答等任務(wù)時，能夠更好的處理上下文的依賴關(guān)系，同時，針對特定場景可以將ERNIE Speed作為基座模型進行精調(diào)，模型效果可以追平甚至超過旗艦級大參數(shù)規(guī)模大模型，效價比大幅提升。

ERNIE Lite的參數(shù)量則更小，更適合搭載在低算力的AI加速卡上處理推理任務(wù)，作為ERNIE-Bot-turbo模型的升級版，ERNIE Lite在情感分析、多任務(wù)學習、自然推理等場景下的應(yīng)用效果提升了20%，推理調(diào)用成本大幅下降了53%。

參數(shù)量最小的ERNIE Tiny則主打極致低成本、低延遲，可用于檢索、推薦、意圖識別等高并發(fā)、低延時等應(yīng)用場景中，在某對話推薦業(yè)務(wù)場景中，精調(diào)后的ERNIE Tiny在搜索引擎推薦詞激發(fā)環(huán)節(jié)，相比ERNIE 3.5，對話輪次增長了3.5%，成本下降了32%。

此外，百度智能云千帆ModelBuilder還推出了ERNIE Character和ERNIE Functions兩款垂直場景大模型，分別適配客戶在角色扮演類應(yīng)用場景（如游戲NPC、客服對話等）和工具調(diào)用場景（對話中使用外部工具、調(diào)用業(yè)務(wù)函數(shù)等）中的使用需求。

結(jié)合企業(yè)實際使用大模型的過程，有些企業(yè)起初就用最好的模型看最好的效果，再決定投入的資源程度。有些場景需要快速驗證，企業(yè)可以先上輕量級模型，輕量級模型總結(jié)一句話——“輕歸輕，可破冰”，在一些場景下完全可用，作為大模型落地的先鋒軍。

對于注重私有數(shù)據(jù)的企業(yè)和行業(yè)，私有數(shù)據(jù)跟大模型結(jié)合也可以先用輕量級模型，不管是知識資產(chǎn)還是數(shù)據(jù)分析，都可以跑出效果。

“把大模型應(yīng)用，喂到企業(yè)嘴邊”

千帆大模型平臺上的客戶需求主要分為三種，第一類是在AppBuilder開發(fā)應(yīng)用；第二類，直接調(diào)用百度的基座模型的，比如直接調(diào)用文心4.0、 3.5版本；第三類是生產(chǎn)模型，客戶數(shù)據(jù)和百度基座模型結(jié)合做一個新的垂類模型。

AppBuilder去年年底推出，從應(yīng)用的視角讓開發(fā)者能夠便捷地開發(fā)基于大模型的AI原生應(yīng)用，百度第一方也做了非常多的AI原生應(yīng)用，也是基于這套平臺做的，本次AppBuilder也進一步升級，進一步降低應(yīng)用開發(fā)門檻。

升級后的AppBuilder開放的工具組件多達55個，包括基于百度多年技術(shù)積累和自有業(yè)務(wù)沉淀的大模型組件、AI能力組件，也包括搜索等百度特色的業(yè)務(wù)組件、和多場景的第三方API工具，另外還提供了 RAG（知識檢索問答）、GBI（生成式數(shù)據(jù)分析）等根據(jù)典型應(yīng)用場景深入調(diào)優(yōu)的高級能力組件。

在組件之上，千帆AppBuilder推出的Agent（智能體）應(yīng)用框架，具備精準的任務(wù)自主規(guī)劃能力，對多種應(yīng)用工具的自動編排準確率超過90%。AppBuilder還支持開發(fā)者接入自定義工具，實現(xiàn)更復(fù)雜場景應(yīng)用的需求定制。

謝廣軍介紹，AppBuilder分兩個形態(tài)，一個是代碼態(tài)，百度提供SDK，甚至提供底層的組件和能力，這種是大B端的場景下的典型客戶畫像。另一個是零代碼態(tài)，以小企業(yè)、個人開發(fā)者為主，現(xiàn)在零代碼態(tài)開發(fā)者的數(shù)量比較多，百度這兩條路都要走。

根據(jù)百度智能云公布的數(shù)據(jù)，千帆大模型平臺已經(jīng)服務(wù)8萬企業(yè)用戶，累計幫助用戶精調(diào)1.3萬個大模型，幫助用戶開發(fā)出16萬個大模型應(yīng)用，自2023年12月以來百度智能云千帆大模型平臺API日調(diào)用量環(huán)比增長97%

大模型未來一段時間還會不斷快速演進，百度AI團隊主抓基礎(chǔ)模型，智能云團隊主抓商業(yè)落地，構(gòu)成了百度自己的大模型商業(yè)落地模式。

本文轉(zhuǎn)載自??鈦媒體??，作者：張帥