ChatGPT、健康的利用を促進へ OpenAIが新機能発表

OpenAIは、対話型AI「ChatGPT」のユーザーが、より健康的な方法でサービスを利用できるよう、複数の機能変更を発表しました。

本日より、ChatGPTは利用時間に応じて「優しげなリマインダー」を提供し、休憩を促す機能を導入します。OpenAIは、サービスの成功をユーザーの利用時間で測るのではなく、「ユーザーが必要なことを終えたら、プロダクトから離れてもらうこと」を重視していると説明。ChatGPTの目的は、ユーザーが「進歩し、新しいことを学び、問題を解決し、そして人生に戻る」ことを支援することであり、注意を引き留めることではないと強調しています。

また、ChatGPTは特定の高リスクでデリケートな質問に対する回答方法も改善しています。例えば「彼氏と別れるべきか？」といった個人的な重要な決断に関する質問に対しては、直接的な答えを提供するのではなく、メリットとデメリットを比較検討し、ユーザー自身がじっくり考えることを促すような応答へと更新される予定です。

さらに、OpenAIは、精神的または感情的な苦痛の兆候をより的確に検知できるよう、モデルの改良を進めています。これにより、ChatGPTが妄想や感情的な依存を助長することなく、根拠に基づいた有用なリソースへとユーザーを誘導できるようになります。

これらの取り組みの一環として、OpenAIはこれまでに30カ国90人以上の医師と協力し、複雑な多段階の会話に対応するためのカスタム評価基準を構築してきました。また、人間とコンピューターの相互作用の研究者を招き、懸念される行動の特定や製品の安全対策のストレステストを実施。今後、精神保健、若者の育成、人間とコンピューターの相互作用の専門家からなる諮問グループも設置する計画です。