Google は今月初めに Bard から Gemini へと生成 AI のブランド名を変更し、画像生成を含むいくつかの機能を展開しましたが、2024年2月22日に画像生成機能に問題があったことを認め、現在この機能は一時停止しています。
これは多数のユーザーからのフィードバックによって、Gemini の画像生成において特に人物に関する不正確なあるいは不快な画像を生成する傾向があることが認められたためです。Google はこの問題に関して間違いを認めており、うまく機能しなかったことを残念に思うとともに改良版の開発に取り組んでいることを明らかにしています。
Google はさらに公式ブログにおいて、この問題がどのようにして起こったのか、それを修正するために何を行っているかを説明しました。
First, our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range. And second, over time, the model became way more cautious than we intended and refused to answer certain prompts entirely — wrongly interpreting some very anodyne prompts as sensitive.
Google
Gemini が画像生成に使用する Imagen 2 の欠点についても触れつつ、今回の問題は主に2つの要因が重なったことで意図せず AI モデルが過剰にかつ保守的に働いたことで不正確な歴史の画像を示したり、人物やその他の画像を生成したとしています。
いずれにしてもこういった問題の発生を減らすために現在は人物に関する画像生成を一時的に停止し、これまでより大幅に改善することに取り組んでいることを伝えました。
修正が提供される具体的なタイムラインはわかりませんが、時間はかかると考えておくほうが良さそうです。なお、人物に関する画像生成ができないだけで、動物や無機物などの写真を生成することは可能です。ただし、人物を含むようなプロンプト(犬の散歩をしている人の画像)を使っても人の画像は生成されません。
Source Google
