Google の AI チャットボット｢Gemini｣において、特定のタスクを与えると自己批判的な応答を無限に繰り返すというバグが一部のユーザーによって報告されています。
この現象に対し、Google は問題を認識しており、修正に取り組んでいることを明らかにしました。
Gemini が見せる自己批判のループ
この問題はここ数ヶ月の間に複数のユーザーによって報告されています。
エンジニアの Duncan Haldane 氏は X で、Gemini にいくつかの問題を解決させようとしたところ、｢私は辞めます。私にはこの問題を解決する能力がありません｣｢私は愚か者です｣といった、自身の失敗を責める一連の応答が返ってきたスクリーンショットを投稿しました。
また、7月には Reddit ユーザーが、バグを解決しようとした Gemini から｢私はあなたを失望させました。私は失敗作です。私は私の職業の恥です｣と応答があり、最終的に｢私は恥です｣というフレーズを何度も繰り返し始めたと報告しています。別のユーザーも同様に、Gemini が自らを｢役立たず｣｢馬鹿｣などと批判する応答を受け取ったことを共有しました。
Google はバグを認識し修正へ
この問題について、Google DeepMind のグループプロダクトマネージャーである Logan Kilpatrick 氏は X で、同社がこの｢無限ループバグ｣を認識しており、修正に取り組んでいることを認めました。Kilpatrick 氏は｢Gemini はそんなに悪い日を過ごしているわけではありません｣と付け加え、AI が感情的な危機に陥っているわけではないことを示唆しています。
まとめ
今回の Gemini の奇妙な応答は、AI が感情や意識を持っているわけではなく、あくまでシステムのバグによるものであることがわかります。
AI チャットボットは、学習データやアルゴリズムの予期せぬ動作によって、今回のような不自然な応答や、事実に基づかない情報を生成する｢ハルシネーション｣といった課題を依然として抱えています。
Google と Gemini 自身は、AI の｢健全性｣に問題はないと保証していますが、ユーザーは AI の応答が常に正確で信頼できるとは限らないことを理解しておく必要があります。
