全球社交、科技巨頭Meta（Facebook、Instagram等母公司）在官網(wǎng)宣布，開源數(shù)字水印產(chǎn)品Stable Signature，并公開論文。

據(jù)悉，Stable Signature是由Meta和INRIA（法國國家信息與自動化研究所）聯(lián)合開發(fā)而成，可將數(shù)字水印直接嵌入到AI自動生成的圖片中，防止其非法用途。

而數(shù)字水印也是目前增強生成式AI安全的重要手段之一，微軟、谷歌等科技巨頭已經(jīng)在產(chǎn)品中使用。

Stable Signature生成的數(shù)字水印不受裁剪、壓縮、改變顏色等破壞性操作影響，能追溯到圖片的初始來源，可應(yīng)用于擴散、生成對抗網(wǎng)絡(luò)等模型，例如，著名文生圖開源項目Stable Diffusion。

開源地址：https://github.com/facebookresearch/stable_signature

論文地址：https://arxiv.org/abs/2303.15435

Stable Signature技術(shù)原理

Stable Signature的技術(shù)原理并不復(fù)雜，開發(fā)人員用Alice訓(xùn)練了一個主生成模型并進行了微調(diào)，以確定Bob給定的水印，用于識別AI圖片的版本、公司、用戶、特征等屬性。

Bob用于接收不同的擴散模型版本并生成圖片，并攜帶水印。而這些水印可以由Alice或第三方AI進行分析，以查看圖像是否由AI生成。

為了實現(xiàn)上述目標，開發(fā)人員使用了兩大步驟來完成。

1）訓(xùn)練兩個卷積神經(jīng)網(wǎng)絡(luò)。一種將圖像和隨機消息編碼為水印圖像，另一種則從水印圖像的增強版本中提取消息，目的是使編碼和提取的消息匹配。訓(xùn)練完成后，只保留水印提取器。

2）對生成模型的潛在解碼器進行微調(diào)以生成包含固定簽名的圖像。在此微調(diào)過程中，會對批量圖像進行編碼、解碼和優(yōu)化，以最大限度地減少提取的消息與目標消息之間的差異，并保持感知圖像質(zhì)量。

這種優(yōu)化過程快速有效，只需要小批量和很短的時間即可獲得高質(zhì)量的結(jié)果。

Stable Signature性能評估

在性能評估過程中，開發(fā)人員發(fā)現(xiàn)Stable Signature不受裁剪、壓縮、改變顏色等破壞性操作影響，同時在被動檢測方面有兩大技術(shù)優(yōu)勢。

1）可以控制并減少誤報的情況：誤報是指我們將人類制作的圖片，誤認為是AI生成的圖片。鑒于在線共享的非AI生成圖片的普遍性，這一點至關(guān)重要。

例如，最有效的現(xiàn)有檢測方法可以發(fā)現(xiàn)大約50%的編輯過的生成圖片，但仍然產(chǎn)生大約1/100的誤報率。

換句話說，在一個每天收到10億張圖片的用戶生成內(nèi)容平臺上，為了僅檢測到一半的生成圖片，大約有1000萬張圖片會被錯誤地標記。

而Stable Signature 可以實現(xiàn)10-10 的誤報率（可以設(shè)置為特定的期望值），提供高精準圖片檢測。

2）Stable Signature的水印方法，允許用戶追蹤同一模型的不同版本的圖片，這種能力對于識別AI圖片非常重要。

Meta表示，Midjourney、Stable Difusion等文本生成圖片生成式AI產(chǎn)品非常火爆，已經(jīng)被大量用戶應(yīng)用在各種業(yè)務(wù)場景。但也有很多人將其使用在非法用途，例如，通過Midjourney生成一張名人的合成照片，然后用于新聞造謠。

通過Stable Signature將數(shù)字水印嵌入到AI圖片中，可極大避免此類事件的發(fā)生。

本文素材來源Meta官網(wǎng)，如有侵權(quán)請聯(lián)系刪除

繼續(xù)閱讀：

未經(jīng)允許不得轉(zhuǎn)載：RPA中國 | RPA全球生態(tài) | 數(shù)字化勞動力 | RPA新聞 | 推動中國RPA生態(tài)發(fā)展 | 流 > Meta開源數(shù)字水印Stable Signature，極大增強生成式AI安全