人工智能領(lǐng)域正經(jīng)歷著范式轉(zhuǎn)變，基礎(chǔ)模型（如GPT - 4、LLAMA 2）處于核心位置，驅(qū)動著技術(shù)創(chuàng)新和大量投資。這引發(fā)了對其監(jiān)管的廣泛需求。而在關(guān)于如何監(jiān)管基礎(chǔ)模型的討論中，模型的發(fā)布過程至關(guān)重要。近日，由斯坦福大學基礎(chǔ)模型研究中心主任Percy Liang領(lǐng)導(dǎo)的論文《Considerations for Governing Open Foundation Models》發(fā)表在Science，對開源大模型治理與監(jiān)管進行了深入探討，今天我們就一起學習一下這篇重要論文吧！

一、基礎(chǔ)模型的發(fā)布方式多樣

基礎(chǔ)模型的發(fā)布呈現(xiàn)出多維的態(tài)勢。從完全封閉（如Google DeepMind的Flamingo，僅模型開發(fā)者可用），到有限訪問（如OpenAI的GPT - 4，公眾可使用但為黑箱模式），再到更開放的形式（如Meta的Llama 2，模型權(quán)重廣泛可用，允許下游修改和審查）。截至2023年8月，英國競爭與市場管理局的數(shù)據(jù)顯示，公開披露模型最常見的發(fā)布方式是開放發(fā)布。

二、開放基礎(chǔ)模型的利弊分析

（一）優(yōu)勢顯著

1. 權(quán)力分散

• 基礎(chǔ)模型創(chuàng)造了新的社會經(jīng)濟權(quán)力形式。封閉模型開發(fā)者在定義和限制使用案例上權(quán)力更大，而開放模型能讓下游消費者更好地自己做決策。例如，封閉模型開發(fā)者可能通過垂直整合塑造下游市場，導(dǎo)致單一化，而開放模型可避免權(quán)力過度集中在開發(fā)者手中。

2. 創(chuàng)新催化

• 基礎(chǔ)模型是通用技術(shù)，能大幅提高創(chuàng)新。開放基礎(chǔ)模型對多種研究形式是必要的，如可解釋性工作、水印技術(shù)開發(fā)、安全研究以及模型訓(xùn)練和推理效率技術(shù)等。它更具可定制性，能提供更深入的訪問，是創(chuàng)新的關(guān)鍵要素。據(jù)預(yù)測，到2032年生成式AI將成為1.3萬億美元的市場。

3. 確保透明

• 數(shù)字技術(shù)存在不透明問題，而基礎(chǔ)模型開發(fā)者的透明度很重要。2023年基礎(chǔ)模型透明度指數(shù)顯示，主要的開放基礎(chǔ)模型開發(fā)者平均比封閉模型開發(fā)者更透明，在供應(yīng)鏈各部分的透明度上都表現(xiàn)更好。這種透明度有助于避免過去不透明數(shù)字技術(shù)帶來的危害。

（二）風險存爭議

1. 生物風險

• 有研究稱開放基礎(chǔ)模型可指導(dǎo)用戶構(gòu)建生物武器，但證據(jù)薄弱。即使模型能提供相關(guān)信息，實際制造生物武器還需要實驗室的專業(yè)知識、設(shè)備和經(jīng)驗等?？赡芨玫恼吒深A(yù)點在下游，比如加強對生物序列購買者的篩選。

2. 虛假信息

• 基礎(chǔ)模型可能降低生成有說服力的虛假信息的成本。但對于封閉模型提供者來說，拒絕生成虛假信息的請求在技術(shù)上可能存在困難，而且虛假信息傳播的關(guān)鍵在于傳播平臺，目前沒有證據(jù)表明開放基礎(chǔ)模型會增加社會對虛假信息的敏感性。

3. 網(wǎng)絡(luò)安全

• 開放代碼模型可能提高攻擊性網(wǎng)絡(luò)攻擊的速度和質(zhì)量，但同時網(wǎng)絡(luò)防御也可能提高。例如谷歌證明代碼模型可大幅提高開源軟件漏洞檢測能力，廣泛使用開放模型并配合相關(guān)工具投資，可能會加強網(wǎng)絡(luò)安全。

4. 魚叉式網(wǎng)絡(luò)釣魚詐騙

• 基礎(chǔ)模型能生成高質(zhì)量的魚叉式網(wǎng)絡(luò)釣魚郵件，但關(guān)鍵危險在于郵件附帶的惡意軟件，而不是郵件文本本身?，F(xiàn)代操作系統(tǒng)和瀏覽器有多層防護，而且現(xiàn)有保護措施可能使釣魚郵件無法到達收件人。

5. 語音克隆詐騙

• 現(xiàn)實中出現(xiàn)了語音克隆詐騙案例，但目前不清楚與傳統(tǒng)詐騙相比其是否更有效或可擴展。封閉模型開發(fā)者可通過一些措施起到威懾作用，如要求用戶用信用卡注冊并能追溯音頻來源。

6. 非自愿親密圖像和兒童性虐待材料

• 開放的文本到圖像模型在生成此類內(nèi)容上風險獨特，因為其降低了生成門檻。封閉模型在這方面的防護相對更有效，監(jiān)測封閉模型可阻止此類圖像生成。對于此類問題，政策干預(yù)在下游平臺是否更有效還有待研究。

三、政策對開放基礎(chǔ)模型的影響

（一）政策現(xiàn)狀

世界各地政府都在出臺與基礎(chǔ)模型相關(guān)的政策。例如，美國行政命令要求國家電信和信息管理局為總統(tǒng)準備一份關(guān)于開放基礎(chǔ)模型的報告；歐盟對計算量少于1025浮點運算的開放基礎(chǔ)模型可能有豁免；英國的AI安全研究所將考慮開源系統(tǒng)等。此外，人工智能伙伴關(guān)系也提出了基礎(chǔ)模型安全部署的指導(dǎo)方針，不建議對最強大的基礎(chǔ)模型進行開放發(fā)布。

（二）潛在問題

1. 合規(guī)負擔不均

• 一些政策提案可能對開放基礎(chǔ)模型開發(fā)者造成不成比例的影響。例如，要求開發(fā)者對模型生成的內(nèi)容負責的立法，會傷害開放開發(fā)者，因為用戶可修改模型生成非法內(nèi)容。

2. 風險評估不準確

• 一些監(jiān)管方法可能沒有充分考慮開放基礎(chǔ)模型相對于封閉模型或現(xiàn)有技術(shù)的邊際風險。例如，通過對計算密集型模型授權(quán)來限制基礎(chǔ)模型發(fā)布的提案，對于一些低資源需求的文本到圖像模型造成的危害可能并不適用。

四、治理建議

1. 考慮潛在影響

• 政策制定者應(yīng)明確考慮AI監(jiān)管對開放基礎(chǔ)模型周圍充滿活力的創(chuàng)新生態(tài)系統(tǒng)的潛在意外后果。在制定政策時，應(yīng)考慮到開放基礎(chǔ)模型在權(quán)力分配、創(chuàng)新和透明度方面的社會利益，以及其可能存在的風險。

2. 精準定義模型

• 當法規(guī)直接涉及開放基礎(chǔ)模型時，應(yīng)仔細考慮用于識別這些模型和開發(fā)者的精確定義。僅基于開放權(quán)重來制定法規(guī)可能不合適，因為惡意行為者可能利用開放數(shù)據(jù)和源代碼（無模型權(quán)重）重新訓(xùn)練模型并造成類似危害。

3. 直接咨詢開發(fā)者

• 如果要實施相關(guān)干預(yù)措施，應(yīng)與開放基礎(chǔ)模型社區(qū)進行直接咨詢，充分考慮他們的利益。例如，在考慮下游使用責任和嚴格的內(nèi)容溯源要求等問題時，要考慮到開放基礎(chǔ)模型開發(fā)者對下游使用控制有限的情況。

開放基礎(chǔ)模型具有重要意義，政策制定應(yīng)綜合考慮其利弊，避免對其創(chuàng)新生態(tài)造成不良影響。

本文轉(zhuǎn)載自公眾號AIGC最前線

原文鏈接：??https://mp.weixin.qq.com/s/BL9vJGBzt46zAquJ8_qO1w???