OpenAIがChatGPTの「検閲解除」を試みる

テッククランチイベント

新しいモデル仕様は、ChatGPTが今や完全に自由放任になることを意味するものではありません。チャットボットは、特定の不適切な質問への回答を拒否したり、明らかな虚偽を助長するような回答をしたりすることは引き続きあります。

これらの変更は、ChatGPTの安全対策が常に中道左派寄りであるように思われることに対する保守派の批判への対応と見なすこともできる。しかし、OpenAIの広報担当者は、トランプ政権を宥めるために変更を行ったという見方を否定している。

むしろ同社は、知的自由を受け入れることは、ユーザーにさらなるコントロールを与えるというOpenAIの「長年の信念」を反映していると述べている。

しかし、誰もがそのように考えているわけではない。

保守派はAIによる検閲を主張

トランプ大統領の最も親しいシリコンバレーの側近たち――デビッド・サックス氏、マーク・アンドリーセン氏、イーロン・マスク氏など――は、OpenAIがここ数ヶ月、意図的なAI検閲を行っていたと非難している。昨年12月、私たちはトランプ大統領の側近たちが、AI検閲をシリコンバレーにおける新たな文化戦争の課題に仕立て上げていると記事に書いた。

もちろん、OpenAIはトランプ大統領の顧問が主張するような「検閲」を行ったとは言っていない。むしろ、同社のCEOであるサム・アルトマン氏は以前、Xへの投稿で、ChatGPTの偏向は残念な「欠点」であり、同社は修正に取り組んでいるものの、修正には時間がかかるだろうと主張していた。

アルトマン氏がこの発言をしたのは、ChatGPTがジョー・バイデン氏を称賛する詩を書くことは拒否したが、トランプ氏を称賛する詩を書くことは拒否したというツイートが拡散した直後だった。多くの保守派は、これをAIによる検閲の一例として指摘した。

OpenAI が特定の観点を本当に抑圧していたかどうかを言うのは不可能だが、AI チャットボットが全体的に左寄りであることは紛れもない事実だ。

イーロン・マスク氏でさえ、xAIのチャットボットは彼が望む以上に政治的に正しいことが多いと認めています。これはGrokが「意識的にプログラムされた」からではなく、オープンなインターネット上でAIを訓練する上での現実である可能性が高いでしょう。 

それでも、OpenAIは言論の自由を一層重視すると表明している。今週、同社はChatGPTから、ユーザーがポリシーに違反した際に警告を表示する機能を削除した。OpenAIはTechCrunchに対し、これは純粋に外観上の変更であり、モデルの出力には変更がないと述べた。

同社は、ChatGPT がユーザーにとって検閲されていると感じにくくしたいと考えているようです。

OpenAI が今回のポリシー更新でトランプ新政権に感銘を与えようとしていたとしても不思議ではない、と OpenAI の元ポリシーリーダーであるマイルズ・ブランデージ氏は X の記事で述べている。

トランプ大統領はこれまで、ツイッターやメタなど、保守派の声を遮断する傾向のあるアクティブなコンテンツ管理チームを抱えるシリコンバレーの企業を批判してきた。

OpenAIはそれを先取りしようとしているのかもしれない。しかし、シリコンバレーとAIの世界では、コンテンツモデレーションの役割に関して、より大きな変化が起こっている。

誰もが満足できる答えを生み出す

ニュースルーム、ソーシャル メディア プラットフォーム、検索会社はこれまで、客観的で正確、かつ面白いと感じられる方法で視聴者に情報を提供することに苦労してきました。

現在、AI チャットボット プロバイダーは同じ配送情報ビジネスに携わっていますが、おそらくこれまでで最も難しい問題を抱えています。それは、どのような質問に対しても、どうやって回答を自動的に生成するのかということです。

物議を醸すリアルタイムの出来事に関する情報を配信することは、常に変化する目標であり、たとえテクノロジー企業が認めたくなくても、編集方針を定めることが不可欠です。こうした方針は、誰かを不快にさせたり、特定のグループの視点を見落としたり、特定の政党に偏向させたりする原因となりかねません。

たとえば、陰謀論、人種差別や反ユダヤ主義の運動、地政学的紛争など、物議を醸す主題に関するあらゆる視点を ChatGPT で表現できるようにすることを OpenAI が約束するとき、それは本質的に編集上の立場です。

OpenAIの共同創設者ジョン・シュルマン氏を含む一部の人々は、ChatGPTにとってこれが正しい姿勢だと主張している。しかし、AIチャットボットがユーザーの質問に答えるべきかどうかを判断するために費用対効果分析を行うという代替案は、「プラットフォームに過度の道徳的権威を与えることになる」可能性があると、シュルマン氏はXへの投稿で指摘している。

シュルマン氏だけではありません。「OpenAIが音声認識の強化を推進するのは正しいと思います」と、ジョージ・メイソン大学マーケタス・センターの研究員であるディーン・ボール氏はTechCrunchのインタビューで述べています。「AIモデルがより賢くなり、人々が世界について学ぶ方法にとってより重要になるにつれて、こうした決定はますます重要になります。」

過去数年間、AIモデルプロバイダーは、AIチャットボットが「安全でない」回答につながる可能性のある質問に答えないようにしようとしてきました。ほぼすべてのAI企業が、2024年の米国大統領選挙に関する質問へのAIチャットボットの回答を停止しました。これは当時、安全かつ責任ある決定であると広く考えられていました。

しかし、OpenAI のモデル仕様の変更は、「AI の安全性」の真の意味において、AI モデルにあらゆる質問に答えさせる方がユーザーに代わって決定を下すよりも責任があると考えられる新しい時代に入りつつあることを示唆している。

ボール氏によると、これはAIモデルの性能向上が一因となっている。OpenAIはAIモデルのアライメントにおいて大きな進歩を遂げており、最新の推論モデルは回答を出す前に同社のAI安全ポリシーを考慮する。これにより、AIモデルは繊細な質問に対してより良い回答を出すことができる。

もちろん、イーロン・マスクはxAIのGrokチャットボットに「言論の自由」を最初に実装した人物です。おそらく、同社がデリケートな質問に対応できる準備が整う前だったのでしょう。主要なAIモデルにとってはまだ時期尚早かもしれませんが、今では他のAIモデルも同じ考えを採用し始めています。

シリコンバレーの価値観の変化

マーク・ザッカーバーグは先月、Metaの事業を憲法修正第一条の原則に沿って再構築し、大きな話題を呼んだ。彼はその過程でイーロン・マスクを称賛し、Xのオーナーであるマスクがコミュニティ主導のコンテンツモデレーションプログラム「Community Notes」を活用して言論の自由を守るという正しいアプローチを取ったと述べた。

実際には、XとMetaはどちらも、長年存在した信頼性と安全性のチームを解体し、プラットフォーム上でより物議を醸す投稿を許可し、保守的な声を増幅させることになった。

Xにおける変更は広告主との関係に悪影響を与えたかもしれないが、それはむしろ、プラットフォームをボイコットしたとして一部の広告主を提訴するという異例の措置を取ったマスク氏の影響が大きいかもしれない。初期の兆候は、Metaの広告主がザッカーバーグ氏の言論の自由への転換に動じていないことを示している。

一方、XやMeta以外にも多くのテクノロジー企業が、過去数十年にわたりシリコンバレーを支配してきた左派的な方針から撤退しています。Google、Amazon、Intelは昨年、多様性推進の取り組みを廃止または縮小しました。

OpenAIも方針転換するかもしれない。ChatGPTの開発元である同社は最近、ウェブサイトから多様性、公平性、そして包括性へのコミットメントを削除したようだ。

OpenAIが5,000億ドル規模のAIデータセンター「Stargate」という、アメリカ史上最大級のインフラプロジェクトに着手する中、トランプ政権との関係はますます重要になっています。同時に、ChatGPTの開発元であるOpenAIは、インターネットにおける主要な情報源としての地位をGoogle検索から奪おうと競い合っています。

正しい答えを見つけることが、両方の鍵となるかもしれません。