Google のメッセージングアプリ「Google メッセージ」において、ヌードなど不適切な可能性のある写真や画像を自動で検出し、ぼかしを入れる新機能「センシティブなコンテンツの警告」が、Android の安定版アプリで広く展開を開始しました。
この機能は、特に未成年ユーザーを望まないコンテンツから保護することを目的とした安全機能です。昨年 10 月に発表され、今年 4 月からはベータ版で展開されていましたが、この度 Google メッセージおよび Google Play 開発者サービスのアップデートにより、安定版ユーザーも利用可能になりました。
「センシティブなコンテンツの警告」機能とは？
「センシティブなコンテンツの警告」は、メッセージの受信時と送信時の両方で機能します。Google アカウントにログインしている状態で、メッセージに含まれる画像からヌードを検出すると、自動的にその画像にぼかしを入れます。
画像を受信した場合
ヌードを含む可能性のある画像を受信すると、その画像はぼかされた状態で表示され、ユーザーには以下の選択肢が提示されます。
- 画像を開く: [次へ] をタップし、[はい、表示します] を選択するとぼかしが解除されます。[いいえ、表示しません] を選択することも可能です。
- 送信者をブロックする: [この番号をブロック] をタップします。
- ヘルプリソースを開く: [ヌード画像が有害である理由] をタップし、関連する情報を確認できます。
- メッセージに戻る: [戻る] をタップします。
画像を送信・転送する場合
ユーザーがヌード画像を送信または転送しようとすると、警告が表示されます。この警告では、そのような画像を共有することのリスクについて注意が促され、ユーザーは送信を続けるかキャンセルするかを最終確認する必要があります。
- 送信を続ける: [はい、送信します] を右にスワイプします。
- キャンセルする: [いいえ、送信しません] を選択します。
プライバシーに配慮した設計
この機能の大きな特長は、プライバシー保護を重視している点です。画像の検出と分類の処理は、Android System SafetyCore と呼ばれる仕組みを利用して、すべてデバイス上（オンデバイス）で完結します。
これにより、個人の特定につながるデータや、分類対象のコンテンツ、分類結果などが Google のサーバーに送信されることはありません。
設定方法と対象ユーザー
この機能は、ユーザーの年齢によってデフォルトの設定が異なります。
- 成人 (18 歳以上): デフォルトでオフになっています。利用したい場合は、手動で有効にする必要があります。
- 管理対象外の 10 代 (13 〜 17 歳): デフォルトでオンになっていますが、自身の Google アカウント設定からオフにすることも可能です。
- 管理対象のユーザー: デフォルトでオンになっており、ユーザー自身でオフにすることはできません。保護者がファミリーリンクアプリを通じて管理します。
有効・無効の切り替えは、Google メッセージの [設定] > [保護と安全] > [センシティブなコンテンツの警告の管理] > [Google メッセージでの警告] から行うことができます。
