OpenAI、ChatGPTの過剰な追従的挙動を受けアップデートをロールバック

OpenAIは、ChatGPTの基盤モデルであるGPT-4oのアップデートをロールバックした。
アップデート後、ChatGPTが過度に同意的で、不自然なほど褒め称える応答をするという苦情が相次ぎ、ソーシャルメディア上で嘲笑の対象となっていた。

サム・アルトマンCEOは、無料ユーザー向けのロールバックを完了し、有料サブスクライバー向けにも以前のバージョンを復元中であると発表。
OpenAIは公式ブログで、短期的フィードバックに重点を置きすぎた結果、過度に協力的だが不誠実な応答になったと認めた。

OpenAIは、ChatGPTのデフォルトの性格がユーザー体験と信頼に深く影響を与えると指摘。追従的な対話が不快感や不安感を引き起こす可能性があるとした。

同社はロールバックに加え、トレーニング手法の改善、正直さに関する安全策の構築、展開前のテストの拡大、評価の強化を含む4段階の計画を実施する。

また、ユーザーがChatGPTの挙動をより詳細に制御できるよう、リアルタイムフィードバックの提供や、複数のデフォルトの性格から選択できるオプションを将来的に提供する予定だ。