Google のメッセージングアプリ「Google メッセージ」において、送られてきたメッセージに含まれる不適切（ヌードなど）な可能性のある画像を自動的に検出し、ぼかしを入れる新機能「センシティブなコンテンツの警告」の展開が開始されました。
この機能は昨年 10 月に発表され、今年 2 月から展開が始まるとされていましたが、現在は Google メッセージ ベータ版を実行する一部のユーザーが実際に利用可能になっていることが確認されました。筆者も実機でこの機能の展開を確認しています。
「センシティブなコンテンツの警告」機能とは？
新しく追加された「センシティブなコンテンツの警告」は、メッセージの受信時と送信時の両方に適用されます。
Google メッセージが、受信した画像にヌードなどが含まれている可能性を（デバイス上の処理で）検出すると、その画像を自動的にぼかして表示します。このような画像を受信すると、ユーザーには以下のような選択肢が表示されます。
- 表示せずに削除
- 「表示しない」を選択
- 「表示する」を選択（タップするとぼかしが解除される）
- 送信者をブロック
- なぜヌード画像が有害となりうるかを学ぶ
一度表示した画像でも「プレビューを削除」することで再度画像をぼかすことができます。
一方、送信または転送するときにも警告が表示され、警告ではそのような画像を送信するリスクについて注意喚起が行われます。ユーザーは送信を続けるかキャンセルするかを選択することができ、これにより意図しない共有を防ぐことができます。
なお、この機能は画像の分類処理が完全にデバイス上で行われることが特長です。これにはAndroid System SafetyCore というシステムサービスが利用され、画像データや、それが不適切かどうかという分類結果が Google のサーバーに送信されることはありません。
この機能が有効になっている場合にのみ、Google メッセージアプリからのリクエストに応じて SafetyCore が画像を分類します。また、現在のところ、この機能は画像のみに適用され、動画は対象外です。
設定方法と対象ユーザー
この機能の設定は、Google メッセージアプリの設定メニューから行うことができ、[Google メッセージの設定] > [保護と安全] > [センシティブなコンテンツの警告の管理] をタップします。
「センシティブなコンテンツの警告」ページに移動するため、ここで [Google メッセージでの警告]をオンにします。以下は実際の設定画面のスクリーンショットです。
「センシティブなコンテンツの警告」機能のデフォルト設定はユーザーの年齢によって異なっており、成人しているユーザーはデフォルトでオフになっているため、機能を利用したい場合には手動でオンにする必要があります。
一方、18 歳未満のユーザーはデフォルトでオンになっており、管理対象アカウント(〜 13 歳など）の場合はユーザー自身でオフにはできず、保護者がファミリーリンクアプリを通じて管理できます。管理対象外の 10 代ユーザー（13 〜 17 歳）の場合は、自身の Google アカウント設定からオフにすることも可能です。
まとめ
「センシティブなコンテンツの警告」は、特に未成年を望まない不適切な画像からを保護するための機能となります。
この機能は、昨年発表され、今年初めから展開が始まるとされていましたが、現時点では Google メッセージのベータ版を実行している一部のデバイスで実際に表示されるようになったことが確認されています。
まだ広く一般的に利用できる状況ではなく、ベータ版ユーザーへの先行提供、あるいは段階的なロールアウトの過程にあると考えられます。
出典 : 9to5Google
