噩耗！SD3、FLUX.1等開源文生圖模型，可能將無法使用
比美國SB-1047更瘋狂的法案來了——AB-3211。
AB-3211是美國加州在今年2月16日制定的一項專門針對文生圖模型的法案，經(jīng)過6次修訂最近以62:0投票在州參議院通過。如果在立法會議結束前再次獲得通過，9月30日之前將提交給州長Gavin Newsom簽署最終執(zhí)行令。
OpenAI、微軟、Adobe等科技巨頭和多數(shù)州議員都支持該法案，通過只是時間問題。但AB-3211會對SD3、FLUX.1等知名開源文生圖模型在應用、技術迭代方面造成巨大影響。
例如，文生圖模型沒有嵌入非常詳細、不可見且難以移除的元數(shù)據(jù)，這些元數(shù)據(jù)可以識別圖像是否由AI生成，并提供有關圖像生成方式、時間、生成服務的附加信息和水印。那么模型將是違法的，無法在HuggingFace、Github上進行分享。
這對于很多小公司、學術機構和個人開發(fā)者來說，無論是在資金還是技術層面都很難承擔的起，會徹底扼殺開源技術方面的創(chuàng)新。
曾經(jīng)反對過SB-1047法案的知名架構師Daniel Jeffries認為，AB-3211比SB-1047更瘋狂，這是一個病態(tài)法案。
AB-3211法案的很多要求都不合理，在技術層面上是一個很大的難題。加州正在梳理一個糟糕的監(jiān)管榜樣。
AB-3211法案的通過，將是一場災難。
根據(jù)美國官方公布的最新AB-3211修訂內容顯示，「AIGC開放社區(qū)」為大家解讀一下有哪些條款對開源不利。
法律責任：如果開源的文生圖模型被用于生成誤導性或有害的內容，開發(fā)者需要承擔法律責任。
例如，如果有人使用 SD3 模型生成了虛假的新聞圖片并廣泛傳播，導致了不良影響，那么原開發(fā)者也會因為未能確保模型的合理使用，面臨法律訴訟和最少2.5萬美元，最高10萬美元罰款。就這一條將會勸退很多開發(fā)者開源其產(chǎn)品。
來源數(shù)據(jù)和水印要求：“來源數(shù)據(jù)”是指嵌入到數(shù)字內容中的信息，該信息可以用來驗證內容的來源、創(chuàng)作者以及生成或修改內容的工具。這種數(shù)據(jù)類似于傳統(tǒng)的版權的元數(shù)據(jù)，但不可篡改且持續(xù)存在，以便于追蹤和驗證內容的真實性和完整性。
例如，SD3、FLUX.1 等開源文生圖模型需要確保生成的圖像能夠，嵌入符合要求的來源數(shù)據(jù)，并且能夠通過對抗性測試來驗證模型的安全性和可靠性。對于開發(fā)者來說，需要投入更多的技術資源來實現(xiàn)這些要求，極大增加開發(fā)成本和安全管理難度。
提供來源檢測工具和進行對抗性測試：法案要求模型平臺提供來源檢測工具，并進行廣泛的對抗性測試，以防止模型被用于添加虛假來源數(shù)據(jù)。
開源模型需要開發(fā)和公開用于檢測其模型生成的內容的工具，并公布詳細的評估流程，保證生成內容的安全性和可靠性。無形之中又增加了開發(fā)和維護的難度。
透明度報告：模型平臺每一年都要提交安全透明度報告，識別其平臺上欺騙性合成內容的審核情況。例如，是否生成了色情、虐待、歧視等非法內容，進一步增加了開源模型的維護負擔。
不合理的條例還有很多，但從上述不難看出這些條款都是增加了開發(fā)技術難度。對于那些有大把資金和技術團隊的大型閉源模型來說，修改到符合標準只是時間問題。也是為什么該法案會獲得了OpenAI、微軟等巨頭的支持，意在打壓那些開源模型。
但對于那些沒有資金、資源的開源開發(fā)者來說，已經(jīng)無法像以前一樣把項目直接扔在Github上就行了，需要一直改到符合技術標準為止，不然就無法分享你的項目。
本文轉自 AIGC開放社區(qū) ，作者：AIGC開放社區(qū)
