2024-05-13
AI假照片 | 有圖未必有真相?AI生成假圖觸發不實資訊傳播危機,以數碼浮水印作防偽標記是否最佳解決方法?
俗語說:「有圖有真相」,但隨著生成式AI愈來愈流行,用戶可以輕鬆地利用AI工具產製以假亂真的圖片後,此說法已開始站不住腳了!為降低假圖片、假消息等不良資訊的傳播風險,Google、OpenAI等科技巨頭已先後替AI生成內容加入數碼浮水印,幫助用戶確認圖片是否為AI產製。數碼浮水印是甚麼呢?它是否真的可以有效地幫助人們辨識圖片真偽?
建立內容憑證緩解AI假圖亂象
2023年3月,網上瘋傳天主教教宗方濟各身穿白色羽絨外套、戴上墨鏡的圖片,讓人誤以為教宗想改變形象,但這其實是網民使用AI製圖工具Midjourney生成的影像,外界稱之為全球首宗大規模AI假消息傳播事件。2024年1月,詐騙集團利用深偽(Deepfake)技術冒充一家跨國企業的財務長,透過視訊會議要求香港員工將錢轉入指定的銀行帳戶,騙取約2億港元(2,600萬美元),這是香港首起深偽詐騙案件。
網民Pablo Xavier利用Midjourney產生教宗方濟各身穿白色羽絨外套的照片,一度在社交媒體上瘋傳。(相片來源:Facebook@Guerrero Art)
為遏制上述亂象,AI科技巨頭與影像產業公司遂著手制定內容憑證標準,藉由數碼浮水印技術,在AI生成作品中加入一些人眼不可見的資訊,惟用戶可以透過特殊工具識別該作品是否由AI產製。這種AI內容識別技術可以分為3大陣營,分別為Google的SynthID技術、C2PA聯盟的內容憑證、以及IPTC的中繼資料。
添加SynthID浮水印無損畫質
由Google DeepMind開發的SynthID技術,依靠兩個深度學習AI模型來運行:第一個為浮水印產生模型,使用嵌入式浮水印技術,將數碼浮水印直接添加到AI產生的內容,過程中會將浮水印與原始內容對齊,以提高浮水印的不可察覺性;第二個為識別模型,能夠掃描影像或音訊中的浮水印,藉此辨識數碼作品是否由AI生成。
添加SynthID浮水印後,影像畫質不會受損。就算影像曾被裁切、加入濾鏡、更改顏色、甚至使用有損壓縮方案來儲存檔案,浮水印依然會存在。目前可被加上SynthID的影像只限由Google製圖工具Imagen所產生的作品,同時該公司亦表示這項技術「並非萬無一失」且「並不完美」。
影像被添加肉眼不可見的SynthID浮水印後,畫質不會受到絲毫損害。(相片來源:Google官方網誌)
即使圖片被加入多重濾鏡,影像中暗藏的SynthID浮水印依然無法去除。(相片來源:Google官方網誌)
點擊CR憑證圖示查看影像來源
另一AI內容識別技術是來自C2PA,其全名是「Coalition for Content Provenance and Authenticity」(內容來源和真實性聯盟)。這是由Adobe發起的技術聯盟,成員包括:Nikon、Leica、Microsoft、Intel、ARM等。
這個聯盟建立一個名為「內容憑證」(Content cRedentials,CR)的開放性標準,任何廠商均可以遵循標準替圖片、影片或文件檔案嵌入數碼內容標記。當支援CR憑證的網站發現影像中含有憑證標記,即會在影像右上方加入「cr」圖示;用戶點擊圖示,即可以查看影像的來源資訊,確認作品是否由AI產生。
由Adobe Firefly生成的影像作品,右上方均會嵌入「cr」圖示,可供用戶查看影像的來源資訊。(相片來源:Adobe官網)
即使刊登圖片的網站不支援CR憑證識別,用戶也可以把圖片拿到C2PA提供的驗證網站進行辨識,讀取內裏的憑證資訊。再者,CR憑證亦會記下影像的編輯歷史,讓用戶可以追蹤圖片的詳細變化記錄。OpenAI表示,2024年初已替AI繪圖工具DALL·E 3加入CR憑證功能,未來更會把這項識別技術整合到影片生成模型Sora。此外,Adobe影像生成模型Firefly產製的作品,也會自動加插入CR憑證。
IPTC中繼資料支援性最為廣泛
最後要介紹的是一項較古舊、但支援性卻更廣泛的內容識別技術——IPTC中繼資料(Metadata)。國際新聞及通訊組織IPTC(International Press Telecommunications Council)在1990年訂定一項描述多媒體狀況的資訊標準,裏面定義了照片標題、照片描述、分類標籤、攝影師與版權等資訊欄目。
IPTC在影像業界已成為廣泛採用的標準,譬如《Photoshop》就可以直接編輯相片中的IPTC資訊。Google I/O 2023開發者大會上,該公司表示計劃在Google圖片搜尋結果中參考IPTC資料來標記圖片。Midjourney、Stability AI、Shutterstock亦已宣布採用IPTC中繼資料來標記其AI生成內容。
互聯網一切事物不再是眼見為實
雖然業界已研發出各種AI識別浮水印,但美國馬利蘭大學計算機科學教授蘇希爾·費茲(Soheil Feizi)卻指出,目前沒有任何一款浮水印是完全可靠的,有心人仍可以想方設法繞過浮水印,這情況就好比資訊安全公司與黑客之間長年累月的網絡攻防戰。
此外,當AI生成內容被插入到人類創作的作品中,浮水印應該如何標註將是一大挑戰。假如有人將真實錄製的錄音檔放入經過AI處理的照片或影片上,那麼平台就要弄清楚如何標記那個部分是AI產生的、那個部分是人類製作的,這將是一項非常繁瑣、易犯錯、兼且具爭議性的任務。盡管如此,有浮水印總比沒有好,至少可以讓公眾意識到,在AI時代下網上一切事物不再是眼見為實!
第九屆「傳媒轉型大獎」請投etnet經濟通一票! ► 立即行動