Hello folks，我是 Luga，今天我們來聊一下人工智能(AI)生態(tài)領(lǐng)域相關(guān)的技術(shù) - LLM 構(gòu)建塊：向量、令牌和嵌入 。

隨著技術(shù)的不斷進(jìn)步，LLM 帶來了前所未有的機(jī)遇，吸引了開發(fā)者和組織紛紛嘗試?yán)闷鋸?qiáng)大的能力構(gòu)建應(yīng)用程序。然而，當(dāng)預(yù)訓(xùn)練的 LLM 在實(shí)際應(yīng)用中無法達(dá)到預(yù)期的性能水平時(shí)，人們將不由自主地開始思考：我們到底應(yīng)該使用哪種技術(shù)來改善這些模型在特定場(chǎng)景下的表現(xiàn)?

Fine-Tuning(微調(diào))和 RAG(檢索增強(qiáng)生成)，作為兩種常見的 LLM 性能優(yōu)化方法，在很多人眼中可能還帶有一絲神秘感。在深入探討兩者的利弊之前，我們有必要先了解這兩種方法的基本原理和特點(diǎn)。

一、高效賦能 LM 的利器—Fine-Tuning

什么是 Fine-Tuning (微調(diào))?

在當(dāng)今的自然語言處理領(lǐng)域，預(yù)訓(xùn)練語言模型(PLM)憑借其在大規(guī)模語料上學(xué)習(xí)到的通用語義知識(shí)，儼然已成為各類下游任務(wù)的強(qiáng)力基石。但要充分發(fā)揮 PLM 在特定場(chǎng)景中的專業(yè)能力，就需要有一種高效的"定制化"方法，那便是 Fine-Tuning(微調(diào))。

Fine-Tuning (微調(diào))過程的核心，是在新的任務(wù)和數(shù)據(jù)集上對(duì)預(yù)訓(xùn)練模型的參數(shù)進(jìn)行微小的調(diào)整，使其能精準(zhǔn)契合目標(biāo)場(chǎng)景的需求。不同于完全從頭訓(xùn)練一個(gè)全新模型，F(xiàn)ine-Tuning (微調(diào))巧妙地利用了 PLM 在大規(guī)模語料上學(xué)習(xí)到的通用語義表征，在此基礎(chǔ)上進(jìn)行"權(quán)重調(diào)校"，從而大幅提高了模型收斂的速度和效率。

以情感分析任務(wù)為例，假設(shè)我們需要對(duì)電影評(píng)論進(jìn)行正負(fù)面情緒判斷。此時(shí)，與從零開始構(gòu)建一個(gè)全新模型不同，我們可以選擇像 GPT-3 這樣在海量文本上預(yù)訓(xùn)練過的 PLM，并使用標(biāo)注好的電影評(píng)論數(shù)據(jù)集對(duì)其進(jìn)行微調(diào)。通過這一調(diào)整權(quán)重的過程，原本通用的語義模型就被"賦能"了情感分析的專業(yè)技能，可以高精度地捕捉評(píng)論中的情感傾向。

Fine-Tuning (微調(diào))參考架構(gòu)示意圖

二、開辟 LLM 智能認(rèn)知的新領(lǐng)域—RAG

LLM (大型語言模型)正以其驚人的學(xué)習(xí)能力和泛化性能，開辟著認(rèn)知智能的全新境界，而 RAG(檢索增強(qiáng)生成)便是為其插上智能利用外部知識(shí)的強(qiáng)力翅膀。

那么，什么是 Retrieval-Augmented Generation(檢索增強(qiáng)生成)?

RAG(檢索增強(qiáng)生成)是一種優(yōu)化大型語言模型輸出的技術(shù)，在生成響應(yīng)之前,讓模型除了查詢訓(xùn)練數(shù)據(jù)源外，還能同時(shí)查閱可靠的知識(shí)庫(kù)。 LLM (大型語言模型)在訓(xùn)練過程中使用了數(shù)十億參數(shù)和大量數(shù)據(jù)，能夠?qū)柎?、語言翻譯、句子補(bǔ)全等任務(wù)生成獨(dú)特的輸出。RAG 無需重新訓(xùn)練模型，便能擴(kuò)展 LLM 已有的強(qiáng)大能力，讓其能夠適用于新的領(lǐng)域或組織的內(nèi)部知識(shí)庫(kù)。這是一種經(jīng)濟(jì)高效的方式，能夠提升 LLM 輸出的準(zhǔn)確性、相關(guān)性和實(shí)用性，使其在各種環(huán)境中依然保持出色表現(xiàn)。

RAG(檢索增強(qiáng)生成)參考架構(gòu)示意圖

在 RAG 的智能架構(gòu)下，語言模型不再是相對(duì)封閉的"語義孤島"。它們將與龐大的異構(gòu)知識(shí)庫(kù)無縫集成，在生成響應(yīng)之前，先通過智能檢索系統(tǒng)獲取與任務(wù)相關(guān)的外部知識(shí)作為補(bǔ)充。由此，語言模型的認(rèn)知能力得以突破自身訓(xùn)練語料的局限，注入更為廣博、專業(yè)的知識(shí)維度。無論是回答一個(gè)特定領(lǐng)域的問題，還是完成專業(yè)化的文本生成任務(wù)，LLM 均能依托 RAG 的知識(shí)補(bǔ)給，提供更加準(zhǔn)確、流暢、內(nèi)容充實(shí)的輸出，大大增強(qiáng)了其在特殊場(chǎng)景下的適用性。

除了認(rèn)知能力的開放突破，RAG 還為 LLM 的訓(xùn)練和應(yīng)用效率帶來了全新的優(yōu)化。采用傳統(tǒng)方式，我們需要用特定領(lǐng)域的大量數(shù)據(jù)反復(fù)訓(xùn)練 LLM，從而使其"學(xué)會(huì)"相關(guān)知識(shí)。這種重新訓(xùn)練的過程不僅代價(jià)昂貴、效率低下，同時(shí)，知識(shí)的覆蓋面和時(shí)效性也極為有限。而 RAG 則通過靈活、高效的知識(shí)檢索和融合，快速賦能了 LLM 在新領(lǐng)域的應(yīng)用能力，無需進(jìn)行大規(guī)模的重復(fù)訓(xùn)練。我們只需構(gòu)建合適的知識(shí)庫(kù)，RAG 就能自動(dòng)獲取與任務(wù)相關(guān)的最新信息，為 LLM 提供有力補(bǔ)充。

三、評(píng)估 Fine-Tuning & RAG 5 要素解析

在評(píng)估和應(yīng)用 Fine-Tuning (微調(diào))與 RAG(檢索增強(qiáng)生成)等語言 AI 技術(shù)時(shí)，我們需要全面審視和深入權(quán)衡諸多關(guān)鍵因素，方能最大限度發(fā)揮它們的能力，并將其貫徹落實(shí)到實(shí)際場(chǎng)景中。

1. 動(dòng)態(tài)數(shù)據(jù)挑戰(zhàn) vs 靜態(tài)數(shù)據(jù)局限

面對(duì)瞬息萬變的動(dòng)態(tài)數(shù)據(jù)環(huán)境，RAG 憑借其獨(dú)特的檢索增強(qiáng)生成架構(gòu)，展現(xiàn)出了卓越的適應(yīng)能力和實(shí)時(shí)更新優(yōu)勢(shì)。通過持續(xù)從外部知識(shí)源中查詢并融合最新信息，RAG 能夠確保模型的輸出始終保持高度時(shí)效性，完全無需頻繁的重新訓(xùn)練過程。

相比之下，傳統(tǒng)的 Fine-Tuning (微調(diào))方法則面臨著更多的困難和局限性。由于微調(diào)后的模型實(shí)際上只是訓(xùn)練數(shù)據(jù)的靜態(tài)快照，在高速變化的數(shù)據(jù)場(chǎng)景中，很快就會(huì)被動(dòng)態(tài)信息所超越而過時(shí)失效。更為棘手的是，微調(diào)無法保證模型對(duì)知識(shí)的持久記憶和回憶能力，從而使其在特定任務(wù)上的表現(xiàn)難以可靠把控。

綜上所述，RAG 作為一種全新的語言模型架構(gòu)，憑借其對(duì)動(dòng)態(tài)外部信息的高度敏感性和融合能力，使其成為應(yīng)對(duì)多變數(shù)據(jù)環(huán)境的不二之選。無論是確保輸出時(shí)效性，還是保證知識(shí)覆蓋的廣度和深度，RAG 都展現(xiàn)出了其獨(dú)特的優(yōu)越性。

2. 外部知識(shí)融合

在智能語言時(shí)代，知識(shí)獲取的廣度和深度決定了模型的天花板。面對(duì)海量異構(gòu)知識(shí)庫(kù)，RAG 以其超越者的氣概，為語言模型賦能于外部知識(shí)融合的非凡能力。

作為一種革命性的語言模型架構(gòu)，RAG 被誕生于充分利用外部知識(shí)源的終極需求。它通過智能檢索機(jī)制，高效地從各類結(jié)構(gòu)化、非結(jié)構(gòu)化的知識(shí)庫(kù)中獲取與任務(wù)相關(guān)的信息，并將其與內(nèi)部語義表征相融合，生成增強(qiáng)后的最終響應(yīng)。無論是查詢數(shù)據(jù)庫(kù)、文檔，還是其他異構(gòu)數(shù)據(jù)存儲(chǔ)庫(kù)，RAG 均能輕松駕馭，展現(xiàn)出卓越的外部知識(shí)利用能力。

反觀傳統(tǒng)的 Fine-Tuning (微調(diào))方式，其知識(shí)獲取能力受到了諸多束縛。雖然通過微調(diào)，可以使大型語言模型"學(xué)習(xí)"特定領(lǐng)域的知識(shí)，但這種學(xué)習(xí)過程無法適應(yīng)頻繁變化的外部數(shù)據(jù)源，并且每一次模型重新訓(xùn)練，都需要付出極高的計(jì)算代價(jià)，效率顯著低下。更為關(guān)鍵的是，微調(diào)模型的知識(shí)種類和來源也受到了較大限制，難以全面獲取和利用互聯(lián)網(wǎng)上的異構(gòu)海量知識(shí)。

綜上所述，對(duì)于高度依賴外部知識(shí)源、且知識(shí)存儲(chǔ)形式多變的應(yīng)用場(chǎng)景而言，RAG 無疑是當(dāng)前最具前景的解決方案。它為語言模型賦予了無與倫比的知識(shí)檢索與融合能力，輕松突破了傳統(tǒng) Fine-Tuning (微調(diào))方式的種種局限，讓模型的輸出質(zhì)量和知識(shí)覆蓋面得到了極大的提升。

3. 幻覺減少

通常而言，RAG 系統(tǒng)的設(shè)計(jì)本質(zhì)上可以降低其產(chǎn)生幻覺的可能性。這是因?yàn)?RAG 系統(tǒng)不是單純地根據(jù)生成模型的輸出生成響應(yīng)，而是將每個(gè)響應(yīng)都基于實(shí)際檢索到的證據(jù)進(jìn)行構(gòu)建。

具體來說，RAG 系統(tǒng)由兩個(gè)主要組件組成：一個(gè)檢索模塊和一個(gè)生成模塊。檢索模塊負(fù)責(zé)從大規(guī)模的知識(shí)庫(kù)中找到與輸入相關(guān)的信息片段。而生成模塊則根據(jù)這些檢索到的證據(jù)來生成最終的響應(yīng)。

這種基于檢索的方式限制了模型單憑自身的生成能力來構(gòu)造響應(yīng)的可能性。相比于僅依賴生成模型的純粹生成式系統(tǒng)，RAG 需要嚴(yán)格遵循檢索到的事實(shí)性信息，從而降低了模型制造虛假或幻覺性響應(yīng)的風(fēng)險(xiǎn)。

Fine-Tuning (微調(diào))技術(shù)確實(shí)可以通過使用特定領(lǐng)域的訓(xùn)練數(shù)據(jù)來幫助降低模型產(chǎn)生幻覺的可能性。因?yàn)槲⒄{(diào)過程可以使模型的參數(shù)更好地適應(yīng)某個(gè)特定的應(yīng)用場(chǎng)景或領(lǐng)域，從而減少模型在這些熟悉領(lǐng)域外產(chǎn)生虛假或無根據(jù)的響應(yīng)。

然而，即使經(jīng)過微調(diào)，模型在面對(duì)不熟悉的輸入或領(lǐng)域時(shí)，仍然可能會(huì)嘗試編造一些看似合理但實(shí)際上是虛假的反應(yīng)。這是因?yàn)榧词菇?jīng)過微調(diào)，模型的基本生成機(jī)制和推理能力并沒有根本性的改變。在缺乏足夠的相關(guān)訓(xùn)練數(shù)據(jù)和背景知識(shí)的情況下，模型仍可能傾向于根據(jù)自身的推測(cè)或猜測(cè)來生成響應(yīng)，而非嚴(yán)格基于事實(shí)。

因此，微調(diào)雖然可以在一定程度上緩解模型產(chǎn)生幻覺的傾向，但并不能完全消除這一風(fēng)險(xiǎn)。在使用微調(diào)后的模型時(shí)，仍需要格外謹(jǐn)慎，并結(jié)合其他技術(shù)手段，如增強(qiáng)模型的可解釋性，來進(jìn)一步降低模型制造虛假信息的可能性。只有通過多管齊下，我們才能更好地確保模型在各種情況下都能給出可靠、事實(shí)性的響應(yīng)。

4. 模型定制化需求

基于架構(gòu)設(shè)計(jì)角度而言，RAG 主要專注于信息檢索，其設(shè)計(jì)可能無法根據(jù)檢索到的內(nèi)容自動(dòng)調(diào)整模型的語言風(fēng)格或領(lǐng)域特定性。雖然 RAG 擅長(zhǎng)將外部知識(shí)整合到生成過程中，但可能缺乏完全定制模型行為和寫作風(fēng)格的能力。也就是說，RAG 系統(tǒng)更側(cè)重于利用豐富的背景知識(shí)來提升生成質(zhì)量，而不是對(duì)模型本身進(jìn)行深度定制。

相比之下， Fine-Tuning (微調(diào))技術(shù)為調(diào)整大型語言模型的行為、寫作風(fēng)格和領(lǐng)域?qū)Ｓ兄R(shí)提供了更直接的路徑。通過微調(diào)，我們可以使模型的行為、語氣和術(shù)語更貼合特定的應(yīng)用需求和細(xì)節(jié)。這種針對(duì)性的定制能夠?qū)崿F(xiàn)模型與特定風(fēng)格或?qū)I(yè)領(lǐng)域的深度融合。

因此，如果我們的應(yīng)用程序需要專門的寫作風(fēng)格或深度契合特定領(lǐng)域的詞匯和慣例，那么 Fine-Tuning (微調(diào))技術(shù)無疑提供了更直接和有效的定制途徑。相比之下，雖然 RAG 系統(tǒng)擅長(zhǎng)利用外部知識(shí)，但在定制模型的語言特性和行為方面可能存在一定局限性。

當(dāng)然，RAG 和 Fine-Tuning (微調(diào))并非完全互斥，在某些情況下可以結(jié)合使用以發(fā)揮各自的優(yōu)勢(shì)。關(guān)鍵在于根據(jù)具體的應(yīng)用需求，選擇最合適的定制技術(shù)來提升模型的性能和行為特性。無論采用哪種方法，合理的模型定制都是提升應(yīng)用效果的關(guān)鍵所在。

5. 模型成本效益

在實(shí)際的業(yè)務(wù)場(chǎng)景中，RAG 系統(tǒng)本身并不支持使用更小型的模型。它需要依賴較大的基礎(chǔ)模型來執(zhí)行信息檢索和生成任務(wù)，無法通過縮小模型規(guī)模來獲得成本優(yōu)勢(shì)。

相比之下， Fine-Tuning (微調(diào))技術(shù)可以在很大程度上提高小型模型的效率和性能。這意味著在部署和維護(hù)時(shí)，小型模型所需的硬件基礎(chǔ)設(shè)施更少，從而能夠帶來云計(jì)算開支或硬件采購(gòu)方面的成本節(jié)省。

當(dāng)成本考量成為首要因素時(shí)，訓(xùn)練和部署小型模型能夠帶來顯著的成本優(yōu)勢(shì)，特別是在大規(guī)模應(yīng)用場(chǎng)景下。這是 Fine-Tuning (微調(diào))技術(shù)的一大優(yōu)勢(shì)。

與 RAG 系統(tǒng)需要依賴較大模型的限制相比， Fine-Tuning (微調(diào))可以充分利用小型模型的優(yōu)勢(shì)。通過精心的微調(diào)過程，小型模型可以在特定任務(wù)上展現(xiàn)出媲美甚至超越大型模型的性能。同時(shí)，小型模型的部署和維護(hù)成本也大幅降低。

因此，對(duì)于追求成本效益的應(yīng)用場(chǎng)景而言， Fine-Tuning (微調(diào))技術(shù)能夠充分發(fā)揮小型模型的優(yōu)勢(shì)，為項(xiàng)目帶來顯著的經(jīng)濟(jì)收益。這是 RAG 系統(tǒng)所無法提供的。簡(jiǎn)而言之，在成本優(yōu)先的情況下， Fine-Tuning (微調(diào))方法顯然具有更強(qiáng)的優(yōu)勢(shì)。

四、關(guān)于 Fine-Tuning vs RAG 一點(diǎn)見解

在語言人工智能的探索進(jìn)程中，技術(shù)創(chuàng)新往往是一場(chǎng)場(chǎng)思想的碰撞與融合。而微調(diào)和檢索增強(qiáng)生成(RAG)這兩大范式，正是智能語言模型發(fā)展歷程中的里程碑式進(jìn)展。但我們不應(yīng)將其等同于一場(chǎng)"這一家喻戶曉或彼一家臭"的技術(shù)范式之爭(zhēng)，因?yàn)樵诟叩闹悄苓M(jìn)化視角下，兩者實(shí)則是有機(jī)統(tǒng)一、相輔相成的共生體。

1.Fine-Tuning 微調(diào)：賦能語言模型任務(wù)專注的秘鑰

微調(diào)技術(shù)的核心功能，是通過對(duì)預(yù)訓(xùn)練語言模型權(quán)重的精細(xì)調(diào)校，將其通用的語義認(rèn)知能力定制化為某一特定任務(wù)或領(lǐng)域的專注技能。這種"通過少量數(shù)據(jù)開啟定制化"的高效方式，讓語言模型得以脫胎于通用知識(shí)的卵殼，孵化出應(yīng)對(duì)特殊場(chǎng)景的專業(yè)能力。

2.RAG：外延語言模型認(rèn)知邊界的知識(shí)加持

而檢索增強(qiáng)生成則是另一種智能范式，賦予了語言模型高效獲取和利用外部異構(gòu)知識(shí)的能力。通過智能檢索系統(tǒng)，語言模型可在生成響應(yīng)前，從海量專業(yè)知識(shí)庫(kù)中獲取與之相關(guān)的補(bǔ)充信息，從而突破了其受限于訓(xùn)練數(shù)據(jù)集的知識(shí)邊界，使輸出更加準(zhǔn)確、專業(yè)、內(nèi)容豐富。

Reference ：

• [1] https://ai.plainenglish.io/fine-tuning-vs-rag-in-generative-ai-64d592eca407
• [2] https://www.goml.io/rag-vs-finetuning-which-is-the-best-tool-for-llm-application/