AI 時代下的應(yīng)用交付革新,F(xiàn)5 ADC 3.0 驅(qū)動企業(yè)智能化轉(zhuǎn)型
原創(chuàng)AI 技術(shù)的爆發(fā)不僅改變了業(yè)務(wù)模式,更徹底顛覆了應(yīng)用的構(gòu)建與交付方式。在生成式 AI 掀起全球技術(shù)變革的當(dāng)下,企業(yè)應(yīng)用架構(gòu)正經(jīng)歷從“功能驅(qū)動”向“智能驅(qū)動”的范式遷移。面對大模型訓(xùn)練推理的算力洪流、API 經(jīng)濟催生的安全威脅、分布式架構(gòu)的運維挑戰(zhàn),傳統(tǒng)應(yīng)用交付控制器(ADC)的技術(shù)邊界亟待突破。
近日,F(xiàn)5 推出 AI 時代下的 ADC 3.0 理念,通過“雙向賦能”(AI for ADC,ADC for AI)的戰(zhàn)略,重新定義應(yīng)用交付的邊界,為企業(yè)數(shù)智化轉(zhuǎn)型提供全新基座。51CTO 采訪了 F5 中國區(qū)產(chǎn)品及解決方案總經(jīng)理陳亮,圍繞【AI 時代下的 ADC 3.0】理念進行詳細解讀。
AI 應(yīng)用驅(qū)動技術(shù)架構(gòu)變革
根據(jù) Gartner 預(yù)測,到 2026 年,超過 80%的企業(yè)將使用生成式 AI 的 API 或模型,或在相關(guān)生產(chǎn)環(huán)境中部署支持生成式 AI 的應(yīng)用程序。AI 技術(shù)的普及催生了全新的應(yīng)用范式。陳亮指出,隨著 ChatGPT 的爆火出圈,全球正式邁入了 AI 時代,AI 應(yīng)用在這一背景下展現(xiàn)出四大特點。
首先,AI 應(yīng)用是最現(xiàn)代化應(yīng)用,在部署方式方面,都會采用微服務(wù)化和容器化的模式,這使得 AI 應(yīng)用具備快速迭代和遷移靈活性的特點,讓企業(yè)可以快速響應(yīng)市場變化,不斷優(yōu)化和升級 AI 服務(wù)。
其次,AI 應(yīng)用呈現(xiàn)出分布式的部署模式。由于 AI 應(yīng)用對數(shù)據(jù)引力和能源引力的依賴,需要被部署在多個地理位置,以便更高效地處理用戶請求。分布式的模式不僅提高了 AI 應(yīng)用的響應(yīng)速度,還增強了其可靠性和可擴展性。
第三,AI 應(yīng)用的訪問方式和訪問內(nèi)容也發(fā)生了變化。傳統(tǒng)應(yīng)用的請求方式主要是 HTTP 或 HTTPS。而在 AI 時代,大部分請求都是通過 API 完成的。盡管 API 請求的數(shù)據(jù)包較小,但他們承載的內(nèi)容卻異常豐富。此外,AI 應(yīng)用還通過提示詞的交互方式,使得用戶能夠以更自然、更直觀的方式與 AI 進行溝通。
第四,AI 應(yīng)用對數(shù)據(jù)傳輸和處理能力提出了更高要求。AI 應(yīng)用需要處理海量數(shù)據(jù),進行訓(xùn)練、微調(diào)和向量化處理等復(fù)雜操作。這些操作不僅數(shù)據(jù)量大,而且計算密集,對后臺服務(wù)器的算力資源構(gòu)成了巨大挑戰(zhàn)。因此,如何高效、安全地處理這些數(shù)據(jù),成為 AI 應(yīng)用落地過程中必須解決的問題。
為了應(yīng)對 AI 應(yīng)用帶來的這些挑戰(zhàn),F(xiàn)5 創(chuàng)新性地提出了 ADC 3.0 的概念,通過技術(shù)創(chuàng)新,重新定義了應(yīng)用交付的邊界,為企業(yè) AI 應(yīng)用提供了高效、安全、且智能的支撐。
F5 ADC 3.0 的破局之道
在人工智能時代,應(yīng)用交付和安全領(lǐng)域面臨著全新的挑戰(zhàn)。而 ADC 3.0 解決了 AI 時代 IT 環(huán)境的關(guān)鍵痛點:復(fù)雜性、不一致性、不靈活性和缺乏可視性。ADC 3.0 通過將高性能負載均衡、應(yīng)用交付、Web 應(yīng)用程序和 API 網(wǎng)絡(luò)安全功能深度融合,重新定義了 ADC 的功能定位與發(fā)展方向。
相較于傳統(tǒng) ADC,AI 時代下的 ADC 3.0 展現(xiàn)出了四大特點與六大關(guān)鍵能力突破,這些特點與能力共同構(gòu)成了其核心競爭力。
首先,ADC 3.0 融入了 AI 能力,使得 ADC 更加易于使用。通過內(nèi)置 AI 小助手,顯著降低配置 ADC 策略的難度,并且可以精準地從流量中識別攻擊風(fēng)險,并動態(tài)生成防護策略。減輕運維過程的復(fù)雜性。
其次,ADC 3.0 打破了傳統(tǒng)硬件部署的局限,實現(xiàn)了從數(shù)據(jù)中心到邊緣、再到云原生的全面覆蓋,更好地適應(yīng)不同場景下的應(yīng)用需求。
第三,ADC 3.0 在能力拓展上也實現(xiàn)了重大突破。它不僅可以識別傳統(tǒng)的網(wǎng)絡(luò)協(xié)議,還能深入解析 API 協(xié)議,識別 API 風(fēng)險,并且可以理解 AI 提示詞的信息進行智能路由決策,確保 AI 應(yīng)用高效運行。
第四,ADC 3.0 在性能上同樣表現(xiàn)出色。它具備高性能、穩(wěn)定的快速傳輸能力,能夠確保數(shù)據(jù)傳輸和處理過程的不中斷,為 AI 應(yīng)用的連續(xù)運行提供了有力保障。
陳亮指出,正是憑借這四大特點,ADC 3.0 才能真正有效地幫助企業(yè)的 AI 應(yīng)用快速落地并安全使用。
面對生成式 AI 日新月異的發(fā)展態(tài)勢,ADC 的需求也在不斷變化。因此,F(xiàn)5 在 ADC 3.0 的研發(fā)過程中,特別注重六個方面的能力提升。
一是提供更完整的應(yīng)用交付和安全服務(wù)能力。ADC 3.0 不僅確保了應(yīng)用交付的可靠性、安全性和擴展性,還針對新型安全威脅提供了強大的識別和防范能力。
二是實現(xiàn)產(chǎn)品的多樣化部署。無論是數(shù)據(jù)中心、云端、邊緣、容器還是智能網(wǎng)卡,ADC 3.0 都能靈活部署,以適應(yīng)不同場景下的應(yīng)用需求。
三是提供統(tǒng)一策略、統(tǒng)一管理的平臺。針對分布式部署模式帶來的管理挑戰(zhàn),ADC 3.0 為客戶提供了統(tǒng)一策略、統(tǒng)一管理的平臺,從而簡化了管理員的工作流程,提高了管理效率。
四是增強數(shù)據(jù)觀察和收集能力。ADC 3.0 利用豐富的數(shù)據(jù)觀察和收集能力,結(jié)合 AI 技術(shù)進行加工、處理和分析,為客戶提供未來可能發(fā)生的流量或安全風(fēng)險、后臺資源壓力變化的統(tǒng)一視圖和預(yù)警分析。
五是具備可編程能力。為了應(yīng)對客戶臨時突發(fā)的需求變化,ADC 3.0 在每一款產(chǎn)品上都配備了可編程能力,使得客戶能夠根據(jù)自身需求進行定制化開發(fā)。
六是實現(xiàn)全生命周期的自動化。ADC 3.0 以 API 優(yōu)先為原則,將所有能力通過 API 接口方式開放給第三方管理平臺。隨著 AI 應(yīng)用的快速迭代,ADC 策略也能得到及時調(diào)整和優(yōu)化,從而確保 AI 應(yīng)用的安全性和高效性。
AI 與 ADC 的雙向賦能
陳亮表示,AI 時代下的 ADC 3.0 主要有兩個核心,即 AI for ADC 和 ADC for AI。AI 要能夠為 ADC 賦能,有效提升 ADC 的能力;同時,ADC 能夠為 AI 提供相應(yīng)服務(wù)的可靠性、安全性的保障。通過“雙向賦能”實現(xiàn)技術(shù)與業(yè)務(wù)價值的深度融合與閉環(huán)。
在 AI for ADC 維度上,F(xiàn)5 將生成式 AI 技術(shù)融入 ADC 設(shè)備的管理與運維之中,極大地降低了操作的復(fù)雜性,并顯著提升了識別與應(yīng)對安全風(fēng)險的能力。例如,在 ADC 產(chǎn)品中內(nèi)置 AI 小助手,通過自然流暢的語言交互方式,精準捕捉管理員的意圖與需求,自動生成詳盡的運維管理報表與策略建議,極大地減輕了管理員的工作負擔(dān),還確保了運維決策的科學(xué)性與準確性。
其次,F(xiàn)5 利用 AI 的強大識別和預(yù)測能力,對攻擊方式和流量變化進行深度分析。從而能夠在攻擊發(fā)生之前,精準預(yù)測并動態(tài)調(diào)整安全防護策略,有效避免了傳統(tǒng)依賴管理員主觀判斷與手動調(diào)整策略所帶來的延時風(fēng)險,為 ADC 設(shè)備的安全穩(wěn)定運行提供了堅實保障。
而在 ADC for AI 層面,F(xiàn)5 推出了六大創(chuàng)新解決方案,全面賦能 AI 應(yīng)用的推理、訓(xùn)練及部署過程。
首先是高性能數(shù)據(jù)流量管理解決方案。針對大流量、高并發(fā)場景下的數(shù)據(jù)傳輸需求,通過與業(yè)界領(lǐng)先的存儲廠商深度合作,確保了數(shù)據(jù)的快速穩(wěn)定傳輸,為 AI 應(yīng)用的順暢運行提供了有力支撐。
第二是容器入口控制管理解決方案。針對 AI 應(yīng)用日益普遍的容器化部署趨勢,F(xiàn)5 的產(chǎn)品可以部署在容器入口位置,精準識別并智能引導(dǎo)進出流量,確保 AI 應(yīng)用能夠高效訪問最佳處理節(jié)點,實現(xiàn)資源的最優(yōu)配置。
第三是 DPU 智能網(wǎng)卡集成。DPU 智能網(wǎng)卡集成解決方案通過卸載加速流量至智能網(wǎng)卡處理,有效緩解了 CPU 壓力,釋放了更多 GPU 算力資源,進一步提升了 AI 應(yīng)用的運行效率。
第四是 AI 語義網(wǎng)關(guān)解決方案。該網(wǎng)關(guān)能夠部署于不同大模型前端,對 AI 語義與提示詞進行深度解析與智能路由,確保請求能夠被精準分配至最適合處理的大模型,從而大幅提升了 AI 應(yīng)用的響應(yīng)速度與智能化水平。其次,對于大模型的安全風(fēng)險、數(shù)據(jù)隱私泄露等風(fēng)險,AI 網(wǎng)關(guān)可以對進出流量和數(shù)據(jù)進行有效識別,確保 AI 調(diào)用的安全與可靠。
第五是全生命周期 API 安全解決方案。覆蓋了從 API 代碼生成到部署、訪問監(jiān)控的全鏈條安全防護,為 AI 應(yīng)用提供了堅不可摧的安全屏障。
第六是全球化快速部署與安全互聯(lián)。針對中國出海企業(yè)的特殊需求,F(xiàn)5 還提供了全球化快速部署與安全互聯(lián)解決方案,通過 SaaS 服務(wù)平臺幫助客戶輕松實現(xiàn) AI 應(yīng)用的全球部署與數(shù)據(jù)傳輸安全保護。
通過 AI 與 ADC 的深度融合與雙向賦能,不僅展現(xiàn)了 F5 在應(yīng)用交付與安全領(lǐng)域的深厚底蘊與技術(shù)實力,更為企業(yè)在 AI 時代的數(shù)字化轉(zhuǎn)型之路提供了堅實有力的支撐與保障。
ADC 3.0 的實戰(zhàn)價值:智能調(diào)度與全局安全雙擎驅(qū)動
在AI應(yīng)用的實際落地過程中,企業(yè)基礎(chǔ)架構(gòu)往往面臨著雙重異構(gòu)挑戰(zhàn):一方面是大模型生態(tài)的多樣性,不同AI框架與算法平臺并存,另一方面是多種算力資源的協(xié)同。這種混合架構(gòu)環(huán)境對應(yīng)用交付提出了更高要求,既要智能調(diào)度確保業(yè)務(wù)連續(xù)性,又要安全防護保障系統(tǒng)可靠性。
在大模型的選擇與算力資源的搭建過程中,F(xiàn)5 ADC 3.0 展現(xiàn)出了其作為 AI 應(yīng)用統(tǒng)一入口的強大能力。當(dāng)用戶發(fā)出請求后,F(xiàn)5 的 ADC 產(chǎn)品對請求進行深度識別與分析。一方面,精準評估后臺 GPU 資源的實時狀態(tài),根據(jù)算力負載情況智能分配用戶請求;另一方面,通過部署在大模型前端的 AI 網(wǎng)關(guān),能夠深入理解用戶請求的語義與特性,精準判斷哪個大模型最為適合處理當(dāng)前請求,并將其智能路由至相應(yīng)的大模型進行處理。這不僅顯著提升了 AI 應(yīng)用的響應(yīng)速度與處理效率,更實現(xiàn)了資源的最優(yōu)配置與利用。
在安全防護方面,F(xiàn)5 同樣展現(xiàn)出了其卓越的能力與擔(dān)當(dāng)。AI 網(wǎng)關(guān)不僅可以根據(jù)語義需求進行路由,而且還可以識別并化解模型漏洞、黑盒等不可預(yù)測性及各類攻擊等風(fēng)險,確保 AI 調(diào)用的安全與可靠。此外,F(xiàn)5 提供的 WAAP 保護解決方案,構(gòu)建了一道堅不可摧的安全防線。該方案涵蓋了 DDoS 防護、BOT 管理、Web 安全以及 API 安全等多個層面,全面覆蓋了 AI 應(yīng)用可能面臨的各種安全威脅。通過實時監(jiān)測、智能分析與快速響應(yīng),F(xiàn)5 能夠有效抵御外部攻擊,保護客戶數(shù)據(jù)的安全與隱私,避免數(shù)據(jù)泄露、大模型被竊取等風(fēng)險的發(fā)生,從而確保企業(yè)業(yè)務(wù)的連續(xù)性與穩(wěn)定性,避免因安全事件導(dǎo)致的商業(yè)損失與聲譽損害。
在 AI 時代,F(xiàn)5 ADC 3.0 正以其獨特的“流量指揮官”與“安全守護者”雙重角色,在 AI 應(yīng)用的落地過程中發(fā)揮了至關(guān)重要的作用。作為“流量指揮官”,它精準識別、智能分配,確保 AI 應(yīng)用的高效運行與資源的最優(yōu)配置;作為“安全守護者”,它全面防護、實時監(jiān)測,為企業(yè)的數(shù)據(jù)安全與業(yè)務(wù)連續(xù)性提供了堅不可摧的保障。在 AI 時代,F(xiàn)5 ADC 3.0 無疑是企業(yè)數(shù)字化轉(zhuǎn)型道路上不可或缺的得力助手。