比美國SB-1047（查看）更瘋狂的法案來了——AB-3211。

AB-3211是美國加州在今年2月16日制定的一項專門針對文生圖模型的法案，經(jīng)過6次修訂最近以62:0投票在州參議院通過。如果在立法會議結(jié)束前再次獲得通過，9月30日之前將提交給州長Gavin Newsom簽署最終執(zhí)行令。

OpenAI、微軟、Adobe等科技巨頭和多數(shù)州議員都支持該法案，通過只是時間問題。但AB-3211會對SD3、FLUX.1等知名開源文生圖模型在應(yīng)用、技術(shù)迭代方面造成巨大影響。

例如，文生圖模型沒有嵌入非常詳細、不可見且難以移除的元數(shù)據(jù)，這些元數(shù)據(jù)可以識別圖像是否由AI生成，并提供有關(guān)圖像生成方式、時間、生成服務(wù)的附加信息和水印。那么模型將是違法的，無法在HuggingFace、Github上進行分享。

這對于很多小公司、學(xué)術(shù)機構(gòu)和個人開發(fā)者來說，無論是在資金還是技術(shù)層面都很難承擔的起，會徹底扼殺開源技術(shù)方面的創(chuàng)新。

曾經(jīng)反對過SB-1047法案的知名架構(gòu)師Daniel Jeffries認為，AB-3211比SB-1047更瘋狂，這是一個病態(tài)法案。

AB-3211法案的很多要求都不合理，在技術(shù)層面上是一個很大的難題。加州正在梳理一個糟糕的監(jiān)管榜樣。

AB-3211法案的通過，將是一場災(zāi)難。

根據(jù)美國官方公布的最新AB-3211修訂內(nèi)容顯示，「AIGC開放社區(qū)」為大家解讀一下有哪些條款對開源不利。

法律責任：如果開源的文生圖模型被用于生成誤導(dǎo)性或有害的內(nèi)容，開發(fā)者需要承擔法律責任。

例如，如果有人使用 SD3 模型生成了虛假的新聞圖片并廣泛傳播，導(dǎo)致了不良影響，那么原開發(fā)者也會因為未能確保模型的合理使用，面臨法律訴訟和最少2.5萬美元，最高10萬美元罰款。就這一條將會勸退很多開發(fā)者開源其產(chǎn)品。

來源數(shù)據(jù)和水印要求：“來源數(shù)據(jù)”是指嵌入到數(shù)字內(nèi)容中的信息，該信息可以用來驗證內(nèi)容的來源、創(chuàng)作者以及生成或修改內(nèi)容的工具。這種數(shù)據(jù)類似于傳統(tǒng)的版權(quán)的元數(shù)據(jù)，但不可篡改且持續(xù)存在，以便于追蹤和驗證內(nèi)容的真實性和完整性。

例如，SD3、FLUX.1 等開源文生圖模型需要確保生成的圖像能夠，嵌入符合要求的來源數(shù)據(jù)，并且能夠通過對抗性測試來驗證模型的安全性和可靠性。對于開發(fā)者來說，需要投入更多的技術(shù)資源來實現(xiàn)這些要求，極大增加開發(fā)成本和安全管理難度。

提供來源檢測工具和進行對抗性測試：法案要求模型平臺提供來源檢測工具，并進行廣泛的對抗性測試，以防止模型被用于添加虛假來源數(shù)據(jù)。

開源模型需要開發(fā)和公開用于檢測其模型生成的內(nèi)容的工具，并公布詳細的評估流程，保證生成內(nèi)容的安全性和可靠性。無形之中又增加了開發(fā)和維護的難度。

透明度報告：模型平臺每一年都要提交安全透明度報告，識別其平臺上欺騙性合成內(nèi)容的審核情況。例如，是否生成了色情、虐待、歧視等非法內(nèi)容，進一步增加了開源模型的維護負擔。

不合理的條例還有很多，但從上述不難看出這些條款都是增加了開發(fā)技術(shù)難度。對于那些有大把資金和技術(shù)團隊的大型閉源模型來說，修改到符合標準只是時間問題。也是為什么該法案會獲得了OpenAI、微軟等巨頭的支持，意在打壓那些開源模型。

但對于那些沒有資金、資源的開源開發(fā)者來說，已經(jīng)無法像以前一樣把項目直接扔在Github上就行了，需要一直改到符合技術(shù)標準為止，不然就無法分享你的項目。

本文素材來源美國官網(wǎng)，如有侵權(quán)請聯(lián)系刪除

繼續(xù)閱讀：

未經(jīng)允許不得轉(zhuǎn)載：RPA中國 | RPA全球生態(tài) | 數(shù)字化勞動力 | RPA新聞 | 推動中國RPA生態(tài)發(fā)展 | 流 > 噩耗！SD3、FLUX.1等開源文生圖模型，可能將無法使用