Google 検索の実験的な機能「AIによる概要」が、企業の顧客サポートとして誤った電話番号を表示し、ユーザーを詐欺に誘導する事例が報告されています。
AI ツールは、提供する情報が事実でない可能性があるという免責事項を設けているのが一般的です。しかし、検索エンジンへの統合が進むにつれて、AI が自信を持って誤った情報を提示する場面に遭遇する機会が増えているようです。
AI 要約が示した連絡先は詐欺師だった
Google の「AI による概要」は、これまでにも事実と異なる回答を生成することで話題になりましたが、最近ではユーザーを詐欺に誘導しかねない、より深刻な問題が指摘されています。
海外のビジネスオーナーである Alex Rivlin 氏は、クルーズ会社 Royal Caribbean のシャトルを予約しようと、「AI による概要」が示した番号に電話をかけました。しかし、その番号は詐欺師のものであり、クレジットカード情報を伝えたところ、複数の不正請求被害に遭ったと報告しています。
このような事例は他にも報告されています。
- Southwest 航空: Reddit ユーザーが航空券の名前のスペル修正方法を検索したところ、AI Overview に表示された詐欺番号に電話をかけ、数百ドルの手数料を請求されそうになったと投稿しています。
- British Airways: 別の Reddit ユーザーも同様の経験を報告しましたが、この問題は報告後に修正されたとのことです。
- 無関係な番号の表示: 企業の問い合わせ先として、全く関係のない別の会社の番号が表示されてしまうケースも報告されています。
Google の対応と AI の課題
The Washington Post によると、Google の広報担当者はこの問題を認識しており、特定の詐欺番号に対して措置を講じるとともに、検索結果の改善に取り組んでいると述べています。
しかし、AI が誤った情報を生成する問題は、今回が初めてではありません。過去には、現在の年号を間違えたり、存在しないことわざの意味を解説したりするなど、「AI による概要」の信頼性には依然として課題が残ります。
AI は Web 上の膨大な情報を学習して要約を生成しますが、その情報源がすべて正しいとは限りません。悪意のある第三者が作成した偽の情報サイトなどを AI が学習してしまうと、今回のような誤った、あるいは危険な情報が表示されるリスクが生まれます。
詐欺被害に遭わないための自己防衛策
AI 機能は非常に便利ですが、その特性を理解し、賢く利用することが重要です。詐欺被害を避けるために、少なくとも以下の点は意識して使うべきです。
- AIの回答を鵜呑みにしない
- AI が生成した情報は、あくまで参考程度に留める
- 電話番号や住所、URL といった重要な情報は、AI の回答を最終確認としないことが重要
- 必ず公式サイトで確認する
- 企業や公的機関の連絡先を調べる際は、「AI による概要」に表示された情報をそのまま利用するのではなく、必ずその企業の公式サイトにアクセスし、そこに記載されている番号を確認する
- ブックマークや信頼できるリンクから公式サイトへ直接アクセスするのが最も安全な方法
まとめ
「AI による概要」は、情報を一つずつ探す手間を省く便利な機能ですが、まだ発展途上であり、誤った情報を表示するリスクが伴います。
特に、金銭や個人情報に関わる手続きで企業などのサポートに連絡する際は、AI が示した電話番号ではなく、手間だと感じても公式サイトで正しい情報を確認することが不可欠です。
