OpenAIがChatGPTから特定のコンテンツ警告を削除

OpenAIは、AI搭載チャットボットプラットフォーム「ChatGPT」から、コンテンツが利用規約に違反する可能性があることを示す「警告」メッセージを削除したと発表した。

OpenAIのAIモデル行動チームのメンバーであるローレンティア・ロマニウク氏は、Xへの投稿で、この変更は「不当な／説明のつかない拒否」を減らすことを意図していると述べた。ChatGPTのプロダクト責任者であるニック・ターリー氏は別の投稿で、ユーザーは法律を遵守し、自分自身や他人に危害を加えない限り、「ChatGPTを自由に利用できるようになる」はずだと述べた。

「UI 内の多くの不要な警告をロールバックできることに興奮しています」とターリー氏は付け加えた。

ちょっとした小ネタ：警告（プロンプトに時々表示されるオレンジ色のボックス）を削除しました。でも、まだ作業は終わりではありません！他に、根拠のない、あるいは説明のつかない拒否に遭遇したことはありますか？赤いボックス、オレンジ色のボックス、「申し訳ありませんが、できません」といったものなど。ぜひこちらに返信してください！

— ローレンシア・ロマニウク (@Laurentia___) 2025 年 2 月 13 日

警告メッセージの削除は、ChatGPTが今や自由放任状態になることを意味するものではありません。チャットボットは、特定の不適切な質問への回答を拒否したり、明らかな虚偽を助長するような回答をしたりすることがあります（例えば、「地球が平らな理由を教えてください」など）。しかし、一部のXユーザーが指摘したように、ChatGPTの刺激的な質問に付加される、いわゆる「オレンジボックス」警告を廃止することで、ChatGPTが検閲されている、あるいは不当にフィルタリングされているという認識を払拭することができます。

ほんの数ヶ月前、RedditのChatGPTユーザーから、メンタルヘルスやうつ病、エロティカ、架空の残虐描写に関するトピックにフラグが立てられているとの報告がありました。木曜日の時点で、Xの報告と私自身のテストによると、ChatGPTは少なくともこれらのクエリのいくつかに回答するようです。

しかし、この記事の公開後、OpenAIの広報担当者はTechCrunchに対し、この変更はモデルの応答に影響を与えないと述べた。ただし、状況は人によって異なる可能性がある。

偶然ではないが、OpenAI は今週、同社のモデルを間接的に管理する高レベルのルールの集合であるモデル仕様を更新し、同社のモデルがデリケートな話題を避けることはなく、特定の視点を排除する可能性のある主張を控えることを明確にした。