AI による画像編集や生成がますます身近になる一方で、その画像が本物なのか、あるいは AI によって作られたものなのかを見分けることは困難になっています。この課題に対応するため、Google は｢Google フォト｣アプリに、AI による編集やディープフェイクを簡単に見分けるための新機能を開発していることが明らかになりました。
この情報は、Android Authority が Google フォト アプリ (バージョン 7.41) の APK 解析から発見したものです。
画像が｢どのように作られたか｣を表示するセクションの開発
新たに追加される機能は、写真や動画を上にスワイプして表示される詳細画面に、｢How was this made (どのように作られたか)｣というセクションとして表示されるようです。
このセクションでは、メディアの作成・編集履歴を確認することができ、具体的には以下のような情報が表示されるとみられます。
- AI による編集: ｢AI ツールで編集｣、｢複数の AI ツールで編集｣、｢AI で作成されたメディア｣など
- AI 以外による編集: ｢非 AI ツールで編集｣、｢複数の非 AI ツールで編集｣など
- 編集なし: ｢カメラで撮影されたメディア｣、｢ソフトウェア調整なしでカメラで撮影されたメディア｣など
- その他: ｢複数の画像を組み合わせて撮影されたメディア｣、｢メディアの一部が AI で作成｣など
これにより、ユーザーは｢消しゴムマジック｣のような AI 編集機能が使われたかどうかを含め、画像がどのような経緯で作られたのかを一目で把握できるようになります。
仕組みは｢Content Credentials｣を利用
この機能は、編集履歴を記録・検証するための業界標準技術である｢Content Credentials｣を利用していると考えられます。
Content Credentials は、画像や動画がいつ、どのように作成・編集されたかという来歴情報を安全に記録する仕組みです。この情報はそのメディアファイルに紐づけられるため、画像が共有された後でも履歴を確認することができます。
また、もしこの編集履歴が改ざんされたり、欠落していたりする場合には、エラーメッセージが表示される仕様となっており、コンテンツの信頼性を担保する役割も担っています。
まとめ
今回、Google が開発に取り組んでいる Google フォトの新機能は、画像が AI で編集・生成されているかどうかをユーザーが確認しやすくし、誤情報やディープフェイクを判断するための便利な機能になる可能性があります。
ただし、この機能はまだ開発段階であり、正式にいつリリースされるかは不明です。
