非営利のAI研究機関であるEpoch AIの分析によると、AI業界は推論AIモデルから大幅なパフォーマンス向上を期待できなくなりそうだ。報告書の調査結果によると、早ければ1年以内に推論モデルの進歩は鈍化する可能性がある。
OpenAIのo3のような推論モデルは、ここ数ヶ月、AIベンチマーク、特に数学とプログラミングスキルを測定するベンチマークにおいて大幅な進歩を遂げています。これらのモデルは問題に対してより多くの計算を適用できるため、パフォーマンスが向上しますが、従来のモデルよりもタスクの完了に時間がかかるという欠点があります。
推論モデルは、まず従来のモデルを大量のデータでトレーニングし、次に強化学習と呼ばれる手法を適用することで開発されます。強化学習は、難しい問題に対する解決策に関する「フィードバック」をモデルに効果的に提供します。
Epochによると、これまでのところ、OpenAIのような最先端のAI研究所は、推論モデルのトレーニングにおける強化学習の段階に膨大な量の計算能力を適用していない。
しかし、状況は変わりつつあります。OpenAIは、o3のトレーニングに前身のo1の約10倍の計算リソースを投入したと発表しており、Epochは、この計算リソースの大部分が強化学習に充てられたと推測しています。また、OpenAIの研究者であるダン・ロバーツ氏は最近、同社の将来計画として、初期のモデルトレーニングよりもはるかに多くの計算リソースを投入するために、強化学習を優先することを明らかにしました。
しかし、Epoch によれば、強化学習に適用できるコンピューティングの量にはまだ上限がある。
エポック社のアナリストであり、この分析の著者でもあるジョシュ・ユー氏は、標準的なAIモデルのトレーニングによるパフォーマンス向上は現在、毎年4倍に増加している一方、強化学習によるパフォーマンス向上は3～5ヶ月ごとに10倍に増加していると説明しています。推論学習の進歩は「おそらく2026年までに全体的なフロンティアに収束するだろう」と彼は続けます。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
Epochの分析はいくつかの仮定に基づいており、AI企業の幹部による公開コメントも一部参考にしている。しかし、推論モデルのスケーリングは、研究にかかる間接費の高さなど、コンピューティング以外の理由からも困難となる可能性があると主張している。
「研究に継続的なオーバーヘッドコストがかかる場合、推論モデルは期待どおりにスケールしない可能性があります」とYou氏は述べている。「迅速なコンピューティングのスケーリングは、推論モデルの進歩において非常に重要な要素となる可能性があるため、注意深く追跡する価値があります。」
近い将来、推論モデルが何らかの限界に達する可能性を示唆する兆候は、AI業界にとって大きな懸念材料となるでしょう。AI業界は、こうしたモデルの開発に莫大なリソースを投入してきたからです。既に研究では、運用コストが非常に高くなる可能性のある推論モデルには、従来のモデルよりも幻覚を起こしやすい傾向など、深刻な欠陥があることが示されています。
カイル・ウィガーズは2025年6月までTechCrunchのAIエディターを務めていました。VentureBeatやDigital Trendsに加え、Android Police、Android Authority、Droid-Life、XDA-Developersといった様々なガジェットブログにも記事を寄稿しています。音楽療法士のパートナーとマンハッタンに在住。
バイオを見る
