あらゆる帝国の中心にはイデオロギー、つまりシステムを前進させ、拡大を正当化する信念体系があります。たとえその拡大のコストがイデオロギーの明示された使命に直接反する場合でもです。
ヨーロッパの植民地勢力にとって、それはキリスト教であり、資源を搾取しながら魂を救うという約束でした。今日のAI帝国にとって、それは「全人類に利益をもたらす」汎用人工知能です。そして、OpenAIはその最大の伝道師であり、AIの構築方法を根本から変えるような形で業界全体に熱意を広めています。
「AGIへの信念の熱さから声が震えている人たちにインタビューしていました」とジャーナリストでベストセラー『Empire of AI』の著者でもあるカレン・ハオ氏は、最近のEquityのエピソードでTechCrunchに語った。
ハオ氏は著書の中で、AI 業界全般、特に OpenAI を帝国に例えています。
「OpenAIの行動の範囲と規模を真に理解する唯一の方法は…彼らが既に世界のほぼどの国家よりも強大な力を持ち、経済力だけでなく政治力も驚異的な規模にまで強めていることを認識することです」とハオ氏は述べた。 「彼らは地球をテラフォーミングしています。私たちの地政学、そして私たちの生活すべてを再構築しています。ですから、彼らを帝国と呼ぶしかありません。」
OpenAI は AGI を「経済的に最も価値のある仕事において人間を上回る、高度に自律的なシステム」であり、「豊かさを増大させ、経済を加速させ、可能性の限界を変える新しい科学的知識の発見を支援することで、人類を向上させる」ものであると説明しています。
こうした漠然とした約束が、業界の急激な成長を促してきた。膨大なリソース需要、膨大なデータ、逼迫した電力網、そして未検証のシステムを世に送り出す意欲。これらはすべて、多くの専門家が決して実現しないかもしれないと指摘する未来のためにある。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
ハオ氏は、この道は必然ではなかったとし、スケーリングが AI をさらに進歩させる唯一の方法ではないと語る。
「アルゴリズムにおいても新しい技術を開発できます」と彼女は述べた。「既存のアルゴリズムを改良することで、必要なデータ量と計算量を削減することも可能です。」
しかし、その戦術はスピードを犠牲にすることを意味していた。
「有益なAGIの構築を、勝者が全てを手に入れるという探求と定義するなら ― OpenAIがまさにそうであったように ― 最も重要なのは何よりもスピードです」とハオ氏は述べた。「効率よりもスピード、安全性よりもスピード、探索的研究よりもスピードです。」
OpenAIにとって、速度を保証する最善の方法は、既存の技術を採用し、「より多くのデータ、より多くのスーパーコンピューターを既存の技術に投入するという、知的に安価なことを行う」ことだと彼女は述べた。
OpenAI が舞台を整え、他のテクノロジー企業も遅れを取るのではなく、追随することを決意した。
「AI業界は世界トップクラスのAI研究者のほとんどを獲得することに成功し、そうした研究者はもはや学術界には存在しなくなったため、真の科学的探究ではなく、AI企業の思惑によって学問分野全体が形作られるようになった」とハオ氏は述べた。
支出は天文学的な額に達しており、今後もそうなるだろう。先週、OpenAIは2029年までに1150億ドルの現金が失われると予想していると発表した。Metaは7月に、今年のAIインフラ構築に最大720億ドルを費やすと発表している。Googleは2025年の設備投資額を最大850億ドルと見込んでおり、その大部分はAIとクラウドインフラの拡張に充てられるだろう。
一方で、目標は絶えず変化し続け、人類にとって最も崇高な利益は、被害が増大するにもかかわらず、未だ実現されていません。失業、富の集中、妄想や精神病を助長するAIチャットボットといった被害です。 ハオ氏は著書の中で、ケニアやベネズエラといった発展途上国で、児童性的虐待コンテンツを含む不快なコンテンツにさらされながら、コンテンツモデレーションやデータラベル付けといった業務に従事し、時給1ドルから2ドル程度の非常に低賃金で働いていた労働者についても記録しています。
ハオ氏は、特に他の形態の AI が実際の利益をもたらす場合、AI の進歩と現在の害悪を対立させるのは誤ったトレードオフだと述べた。
彼女は、Google DeepMindのノーベル賞受賞技術であるAlphaFoldを挙げた。これは、アミノ酸配列データと複雑なタンパク質の折り畳み構造を学習し、今ではアミノ酸からタンパク質の3D構造を正確に予測することができる。これは、新薬の発見や病気の理解に大いに役立つ。
「私たちに必要なのは、まさにこうしたタイプのAIシステムです」とハオ氏は述べた。「AlphaFoldは人々に精神衛生上の危機をもたらすことはありません。AlphaFoldは、はるかに少ないインフラで学習しているため、甚大な環境被害をもたらすこともありません。また、データセットには、インターネットからスクレイピングした際に吸い上げた有害なゴミが一切含まれていないため、コンテンツモデレーションによる悪影響も生じません。」
AGI に対する準宗教的な取り組みと並行して、シリコンバレーが世界に自由化の影響を及ぼすことができるように、AI 競争で中国に勝つことの重要性についての物語もありました。
「文字通り、その逆のことが起こったのです」とハオ氏は述べた。「米国と中国の格差は縮まり続け、シリコンバレーは世界に非自由化の影響を及ぼしてきました…そして、この状況から無傷で逃れた唯一の主体は、シリコンバレー自身と言えるでしょう。」
もちろん、OpenAI や他の AI 企業が ChatGPT やその他の大規模言語モデルをリリースすることで人類に利益をもたらし、コーディング、執筆、調査、顧客サポート、その他の知識労働タスクなどのタスクを自動化することで生産性の大幅な向上を約束していると主張する人もたくさんいるでしょう。
しかし、OpenAIの構造（非営利と営利の両面を持つ）は、人類への影響の定義と測定を複雑化させています。そして今週、OpenAIがマイクロソフトと合意に達し、最終的な株式公開に近づいたというニュースによって、状況はさらに複雑化しています。
OpenAIの元安全性研究者2人がTechCrunchに対し、AIラボが営利目的と非営利目的を混同し始めているのではないかと懸念していると語った。ChatGPTやLLM上に構築された他の製品の使用が人々の楽しみとなっているため、これは人類に利益をもたらすという点では合致するのだという。
ハオ氏もこれらの懸念に同調し、使命に没頭しすぎて現実を無視することの危険性を述べた。
「彼らが構築しているものが実際には多くの人々に危害を与えているという証拠が積み重なっているにもかかわらず、ミッションはそれを全て覆い隠し続けています」とハオ氏は述べた。「自分たちが作り上げた信念体系に囚われすぎて現実を見失ってしまうのは、本当に危険で暗い側面があります。」
