隨著生成式AI時代不斷發(fā)展，越來越多的企業(yè)開始關(guān)注、應(yīng)用甚至訓(xùn)練大模型，想要以此創(chuàng)造更大的業(yè)務(wù)價值。這一想法固然沒錯，大模型的出現(xiàn)必能為企業(yè)帶來創(chuàng)新和突破。不過，基礎(chǔ)模型依賴于大規(guī)模高質(zhì)量數(shù)據(jù)集，想要借助生成式AI帶來企業(yè)差異化優(yōu)勢的關(guān)鍵是企業(yè)的專有數(shù)據(jù)，數(shù)據(jù)是企業(yè)核心競爭力之一。

近日，亞馬遜云科技以“無數(shù)據(jù)不模型——生成式AI時代的數(shù)據(jù)基座”為主題召開了媒體溝通會。會上，北京靈奧科技CEO厲啟鵬介紹了Vanus如何幫助企業(yè)解決數(shù)據(jù)問題，從而與大模型無縫結(jié)合。

北京靈奧科技是一家快速成長的初創(chuàng)企業(yè)，致力于推動生成式AI技術(shù)的普及，從而加速企業(yè)的商業(yè)成功。北京靈奧科技堅信AI Agent會成為推動企業(yè)業(yè)務(wù)快速增長的關(guān)鍵力量，并先后推出Vanus Connect、Vanus AI和VanChat三款SaaS產(chǎn)品，為企業(yè)提供幫助構(gòu)建AI Agent的SaaS平臺，累計服務(wù)全球30,000+用戶。

大模型與企業(yè)數(shù)據(jù)的無縫結(jié)合

為什么企業(yè)難以將自己的業(yè)務(wù)數(shù)據(jù)與大模型結(jié)合？

首先，對模型的學(xué)習(xí)能力要求高。企業(yè)數(shù)據(jù)的類型繁多、格式雜亂且來源無法統(tǒng)一，需要模型能夠深入理解企業(yè)多樣化的數(shù)據(jù)；

第二，對模型感知變化的要求高。業(yè)務(wù)數(shù)據(jù)隨著企業(yè)運營實時變化，模型需要不斷學(xué)習(xí)不同來源、持續(xù)變化的業(yè)務(wù)信息；

第三，模型合規(guī)問題。企業(yè)既要讓模型理解好數(shù)據(jù)，又需要做到安全合規(guī)，不能觸碰紅線；

第四，模型存在偏見。由于不同的大語言模型由于訓(xùn)練數(shù)據(jù)來源不同，側(cè)重點有差異，導(dǎo)致模型會存在偏見。

所以厲啟鵬認為，數(shù)據(jù)是企業(yè)落地大模型的核心挑戰(zhàn)之一，如果有一個中間環(huán)節(jié)能夠幫助用戶承上啟下，或許就能解決這一痛點。而大模型中間件介于大模型和應(yīng)用之間，是打通大模型企業(yè)端落地最后一公里，是企業(yè)構(gòu)建AI應(yīng)用的必備組件，更是能夠幫助企業(yè)解決數(shù)據(jù)問題的關(guān)鍵。

北京靈奧科技不僅能幫助企業(yè)解決數(shù)據(jù)方面的痛點，還能幫助企業(yè)將自己的業(yè)務(wù)數(shù)據(jù)與大模型無縫結(jié)合：在神經(jīng)網(wǎng)絡(luò)層，Vanus Connect可以連接企業(yè)不同的數(shù)據(jù)源，實時感知企業(yè)業(yè)務(wù)事件的變化，并推送給神經(jīng)中樞，然后接收神經(jīng)中樞的指令去做執(zhí)行，從而解決；在神經(jīng)中樞層，Vanus AI結(jié)合知識庫（向量數(shù)據(jù)庫）和大模型，幫助企業(yè)做業(yè)務(wù)的決策。

同時，大模型中間件Vanus可以將大模型優(yōu)勢和企業(yè)數(shù)據(jù)無縫結(jié)合，為用戶提供Claude 3等多模型選擇，實現(xiàn)商品數(shù)據(jù)自動同步，包括商品數(shù)據(jù)自動更新、Shopify數(shù)據(jù)自動接入等，還可與網(wǎng)站、釘釘、飛書、企業(yè)微信等第三方應(yīng)用無縫集成。

亞馬遜云科技多方面賦能北京靈奧科技

北京靈奧科技幫助企業(yè)解決數(shù)據(jù)難題的背后，離不開亞馬遜云科技賦能。北京靈奧科技在成立之初就加入了亞馬遜云科技合作伙伴網(wǎng)絡(luò)（APN），不僅獲得了推薦客戶和合作伙伴等資源，獲得了技術(shù)賦能，加速生成式AI產(chǎn)品進入市場。對于一家有諸多不確定因素的初創(chuàng)企業(yè)來說，北京靈奧科技受益良多。

從技術(shù)方面來說，北京靈奧科技基于亞馬遜云科技的基礎(chǔ)云服務(wù)、大語言模型、數(shù)據(jù)存儲三類云服務(wù)，以及亞馬遜云科技產(chǎn)品的彈性可擴展、高可用性、低延時、推理能力強等特性構(gòu)建了Vanus平臺。

具體來說，北京靈奧科技利用Amazon Elastic Kubernetes Service（Amazon EKS）基于網(wǎng)絡(luò)流量的彈性擴展能力，使Vanus AI構(gòu)建的Agent能夠根據(jù)用戶業(yè)務(wù)流量平滑彈性伸縮。幫助企業(yè)平均成本降低30%，性價比提高20%；

通過Amazon DocumentDB 原生的3可用區(qū)、6副本的設(shè)計，北京靈奧科技不僅提高系統(tǒng)的可用性和可靠性，還實現(xiàn)了不低于99.99%正常運行時間的服務(wù)等級協(xié)議（SLA）。

同時，還借助Amazon Simple Storage Service（Amazon S3）及數(shù)據(jù)庫高并發(fā)數(shù)據(jù)查詢能力，提高了大模型上下文加載時間；而亞馬遜云科技全球網(wǎng)絡(luò)節(jié)點加速的能力使Agent回復(fù)系統(tǒng)延時降低40%，大大降低了延時。

通過Amazon Bedrock提供的Claude模型，為Vanus平臺的AI Agent提供非常強的語言理解和邏輯推理能力。

通過亞馬遜云科技提供的易用以及功能強大的云服務(wù)，Vanus遇到的絕大部分技術(shù)問題都能在亞馬遜云科技上找到答案。除此之外，亞馬遜云科技還提供全方位的技術(shù)服務(wù)，包括技術(shù)方案和架構(gòu)師等，加速Vanus產(chǎn)品落地。

從推廣資源和支持角度來說，亞馬遜云科技幫助北京靈奧科技加速產(chǎn)品進入市場。厲啟鵬表示，由于北京靈奧科技是以技術(shù)為驅(qū)動的初創(chuàng)公司，所以在運營、市場等方面的資源并不豐富，而且用戶對于新品牌需要有認知和接受的過程，這對初創(chuàng)公司來說都是很大的挑戰(zhàn)。但是亞馬遜云科技合作伙伴網(wǎng)絡(luò)（APN）幫助北京靈奧科技的產(chǎn)品快速推向市場，得到更多的曝光，同時也認識了很多渠道合作伙伴。

厲啟鵬接受采訪時表示“特別感謝亞馬遜云科技為我們帶來確定性，幫助我們構(gòu)建穩(wěn)定、強健的數(shù)據(jù)基座，從而能夠輕松面對用戶業(yè)務(wù)的不確定性。”

在未來，亞馬遜云科技將持續(xù)引領(lǐng)數(shù)據(jù)基座構(gòu)建必備的三大核心能力，即模型微調(diào)和預(yù)訓(xùn)練所需的數(shù)據(jù)處理能力、利用專有數(shù)據(jù)與模型快速結(jié)合以產(chǎn)生獨特價值的能力，以及有效處理新數(shù)據(jù)以助推生成式AI應(yīng)用持續(xù)快速發(fā)展的能力，助力企業(yè)在生成式AI時代取得成功，將更多的“不確定”轉(zhuǎn)變?yōu)椤按_定”。