• |
  • 極速報價
  • |
  • etnet專輯
    etnet專輯
  • 會員
  • 產品服務 / 串流版
  • 設定

13/05/2024

AI假照片 | 有圖未必有真相?AI生成假圖觸發不實資訊傳播危機,以數碼浮水印作防偽標記是否最佳解決方法?

  • 加入最愛專欄
  • 收藏文章
  • 方展策

    方展策

    少年時,曾研習 Geographic Information System,可惜學無所成,僥倖畢業。成年後,誤打誤撞進入傳媒圈子,先後在印刷、電子、網絡媒體打滾,略有小成。中年後,修畢資訊科技碩士,眼界漸擴,決意投身初創企業,窺探不同科技領域。近年,積極鑽研數據分析與數碼策略,又涉足 Location Intelligence 開發項目;有時還會抽空執教鞭,既可向他人分享所學,亦可鞭策自己保持終身學習。

    智城物語

  俗語說:「有圖有真相」,但隨著生成式AI愈來愈流行,用戶可以輕鬆地利用AI工具產製以假亂真的圖片後,此說法已開始站不住腳了!為降低假圖片、假消息等不良資訊的傳播風險,Google、OpenAI等科技巨頭已先後替AI生成內容加入數碼浮水印,幫助用戶確認圖片是否為AI產製。數碼浮水印是甚麼呢?它是否真的可以有效地幫助人們辨識圖片真偽?

 

建立內容憑證緩解AI假圖亂象

 

  2023年3月,網上瘋傳天主教教宗方濟各身穿白色羽絨外套、戴上墨鏡的圖片,讓人誤以為教宗想改變形象,但這其實是網民使用AI製圖工具Midjourney生成的影像,外界稱之為全球首宗大規模AI假消息傳播事件。2024年1月,詐騙集團利用深偽(Deepfake)技術冒充一家跨國企業的財務長,透過視訊會議要求香港員工將錢轉入指定的銀行帳戶,騙取約2億港元(2,600萬美元),這是香港首起深偽詐騙案件。

 

網民Pablo Xavier利用Midjourney產生教宗方濟各身穿白色羽絨外套的照片,一度在社交媒體上瘋傳。(相片來源:Facebook@Guerrero Art)

 

  為遏制上述亂象,AI科技巨頭與影像產業公司遂著手制定內容憑證標準,藉由數碼浮水印技術,在AI生成作品中加入一些人眼不可見的資訊,惟用戶可以透過特殊工具識別該作品是否由AI產製。這種AI內容識別技術可以分為3大陣營,分別為Google的SynthID技術、C2PA聯盟的內容憑證、以及IPTC的中繼資料。

 

添加SynthID浮水印無損畫質

 

  由Google DeepMind開發的SynthID技術,依靠兩個深度學習AI模型來運行:第一個為浮水印產生模型,使用嵌入式浮水印技術,將數碼浮水印直接添加到AI產生的內容,過程中會將浮水印與原始內容對齊,以提高浮水印的不可察覺性;第二個為識別模型,能夠掃描影像或音訊中的浮水印,藉此辨識數碼作品是否由AI生成。

 

  添加SynthID浮水印後,影像畫質不會受損。就算影像曾被裁切、加入濾鏡、更改顏色、甚至使用有損壓縮方案來儲存檔案,浮水印依然會存在。目前可被加上SynthID的影像只限由Google製圖工具Imagen所產生的作品,同時該公司亦表示這項技術「並非萬無一失」且「並不完美」。

 

影像被添加肉眼不可見的SynthID浮水印後,畫質不會受到絲毫損害。(相片來源:Google官方網誌)

即使圖片被加入多重濾鏡,影像中暗藏的SynthID浮水印依然無法去除。(相片來源:Google官方網誌)

 

點擊CR憑證圖示查看影像來源

 

  另一AI內容識別技術是來自C2PA,其全名是「Coalition for Content Provenance and Authenticity」(內容來源和真實性聯盟)。這是由Adobe發起的技術聯盟,成員包括:Nikon、Leica、Microsoft、Intel、ARM等。

 

  這個聯盟建立一個名為「內容憑證」(Content cRedentials,CR)的開放性標準,任何廠商均可以遵循標準替圖片、影片或文件檔案嵌入數碼內容標記。當支援CR憑證的網站發現影像中含有憑證標記,即會在影像右上方加入「cr」圖示;用戶點擊圖示,即可以查看影像的來源資訊,確認作品是否由AI產生。

 

由Adobe Firefly生成的影像作品,右上方均會嵌入「cr」圖示,可供用戶查看影像的來源資訊。(相片來源:Adobe官網)

 

  即使刊登圖片的網站不支援CR憑證識別,用戶也可以把圖片拿到C2PA提供的驗證網站進行辨識,讀取內裏的憑證資訊。再者,CR憑證亦會記下影像的編輯歷史,讓用戶可以追蹤圖片的詳細變化記錄。OpenAI表示,2024年初已替AI繪圖工具DALL·E 3加入CR憑證功能,未來更會把這項識別技術整合到影片生成模型Sora。此外,Adobe影像生成模型Firefly產製的作品,也會自動加插入CR憑證。

 

IPTC中繼資料支援性最為廣泛

 

  最後要介紹的是一項較古舊、但支援性卻更廣泛的內容識別技術——IPTC中繼資料(Metadata)。國際新聞及通訊組織IPTC(International Press Telecommunications Council)在1990年訂定一項描述多媒體狀況的資訊標準,裏面定義了照片標題、照片描述、分類標籤、攝影師與版權等資訊欄目。

 

  IPTC在影像業界已成為廣泛採用的標準,譬如《Photoshop》就可以直接編輯相片中的IPTC資訊。Google I/O 2023開發者大會上,該公司表示計劃在Google圖片搜尋結果中參考IPTC資料來標記圖片。Midjourney、Stability AI、Shutterstock亦已宣布採用IPTC中繼資料來標記其AI生成內容。

 

互聯網一切事物不再是眼見為實

 

  雖然業界已研發出各種AI識別浮水印,但美國馬利蘭大學計算機科學教授蘇希爾·費茲(Soheil Feizi)卻指出,目前沒有任何一款浮水印是完全可靠的,有心人仍可以想方設法繞過浮水印,這情況就好比資訊安全公司與黑客之間長年累月的網絡攻防戰。

 

  此外,當AI生成內容被插入到人類創作的作品中,浮水印應該如何標註將是一大挑戰。假如有人將真實錄製的錄音檔放入經過AI處理的照片或影片上,那麼平台就要弄清楚如何標記那個部分是AI產生的、那個部分是人類製作的,這將是一項非常繁瑣、易犯錯、兼且具爭議性的任務。盡管如此,有浮水印總比沒有好,至少可以讓公眾意識到,在AI時代下網上一切事物不再是眼見為實!

 

 

 《經濟通》所刊的署名及/或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。

【你點睇】的士業「放蛇」舉報Uber,政府應否將網約車合法化?你是否支持該類自行「放蛇」行為?► 立即投票

我要回應

你可能感興趣

放大顯示
風水蔣知識
精選文章
  • 生活
  • DIVA
  • 健康好人生
專業版
HV2
精裝版
SV2
串流版
IQ 登入
強化版
TQ
強化版
MQ