AIが生成した画像、信頼性の向上は可能か?水印対策の効果と課題

2024.02.09

WorkWonders

OpenAIは、DALLE-3 AIが生成する画像に水印を追加すると発表しましたが、その除去方法は非常に簡単で、ChatGPT自体がその方法を示すほどです。
これはAIが作り出す「ディープフェイク」画像に関連する論争が再燃している中でのことです。例えば、かつてのTwitterであるXは、AIが生成したテイラー・スウィフトの不適切な画像が溢れる事態を受け、一時的に画像の検索を禁止したことがありました。

水印は目に見えるものではなく、メタデータとして画像に隠されています。しかし、スクリーンショットを撮るだけで、これらの識別情報を除去できてしまいます。
OpenAIでは、画像の出所を明らかにする手法の採用や、ユーザーにこれらのサインを認識させるための努力がデジタル情報の信頼性を高める鍵であるとしています。

一方で、教育機関ではAIが書いたものかどうかを見分けるために他の方法が使用されており、西洋諸国の2024年の選挙においても、AIが生成した偽画像や動画による干渉が懸念されています。
AIによって作成されたディープフェイクは犯罪に利用されるケースもあり、偽のビデオ通話で25万ドルの盗難が報告された事例もあります。
このように、AI画像に水印を付ける試みは進んでいますが、その効果は完全ではなく、今後の対策が求められています。

出典 : https://www.forbes.com/sites/barrycollins/2024/02/07/the-ridiculously-easy-way-to-remove-chatgpts-image-watermarks/

【このニュース記事はAIを利用して書かれています】

著者名 :