2000年代初頭、ビジネスクリティカルなソフトウェアのほとんどは、民間のデータセンターでホストされていました。しかし、時が経つにつれ、企業は懐疑的な見方を克服し、重要なアプリケーションをクラウドに移行しました。
DevOps は、意思決定者に自社のデータセンター外でホストされているビジネスクリティカルなアプリケーションに対する制御感を与え、クラウドへの移行を促進しました。
現在、企業は本番環境で機械学習 (ML) を試用し、受け入れるという同様の段階にあり、この変化を加速させる要因の 1 つが MLOps です。
クラウドネイティブのスタートアップと同様に、今日の多くのスタートアップはMLネイティブであり、顧客に差別化された製品を提供しています。しかし、大企業や中規模企業の大多数は、MLアプリケーションを試用し始めたばかりか、機能するモデルを本番環境に導入するのに苦労している状況です。
MLOps が役立つ主な課題は次のとおりです。
チーム間のMLコラボレーションをうまく機能させるのは難しい
MLモデルは、解約率を予測するような単純なものから、サンノゼとサンフランシスコ間のUberやLyftの料金を決定するような複雑なものまで様々です。モデルを作成し、チームがそのメリットを享受できるようにするのは、非常に複雑な作業です。
これらのモデルをトレーニングするには、大量のラベル付き履歴データが必要になるだけでなく、複数のチームが連携してモデルのパフォーマンス低下を継続的に監視する必要があります。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
ML モデリングには 3 つの主要な役割が関係しますが、それぞれに異なる動機とインセンティブがあります。
データエンジニア：訓練を受けたエンジニアは、複数のソースからデータを収集し、クレンジングして適切な形式で保存し、分析を実行できるようにすることに長けています。データエンジニアは、ETL/ELT、データウェアハウス、データレイクなどのツールを駆使し、静的データセットとストリーミングデータセットの取り扱いに精通しています。データエンジニアが作成する高レベルのデータパイプラインは、例えば以下のようなものになります。
データサイエンティスト： 複雑な回帰分析を瞬時に実行できる専門家です。Python言語、Jupyter Notebook、Tensorflowなどの一般的なツールを用いて、データエンジニアから提供されたデータを分析し、高精度なモデルを構築します。データサイエンティストは様々なアルゴリズムを試し、それらのモデルの精度を比較することに長けていますが、その後はモデルを本番環境に導入するための作業を行う必要があります。
AI エンジニア/DevOps エンジニア:インフラストラクチャを理解し、モデルを本番環境に導入し、何か問題が発生した場合にはすぐに問題を検出して解決プロセスを開始できるスペシャリストです。
MLOps により、これら 3 つの重要なペルソナが継続的に連携し、AI 実装を成功させることができます。
MLツールの普及
新しい開発者主導のボトムアップの世界では、チームは問題を解決するためにさまざまなツールから選択できます。
AIを正しく活用するための重要なステップを概説した下の図では、MLOpsツールは、これらのタスクに優れたスタンドアロンツールの一部またはすべてと統合されています。このようなツールがなければ、膨大なデータリポジトリからインテリジェンスを自動的に抽出できるMLパイプラインの構築、保守、更新は複雑な課題となります。
モデルのライフサイクル管理は大きな問題点です
MLモデルは、データサイエンティストが作成、最適化、監視、そしてアップグレードに取り組む中核的な存在です。MLモデルは、質問と一定のデータを与えると、高い信頼度で予測を生成するブラックボックスソフトウェアと考えることができます。予測の精度が高ければ高いほど、企業は顧客に提供するエクスペリエンスの差別化を図ることができます。
しかし、ソフトウェアアプリケーションとは異なり、本番環境のモデルは時間の経過とともに劣化し、精度が低下する可能性があります。モデルのパフォーマンスを監視し、精度の高いアラートを設定し、適切なチームに是正措置を講じさせることは、多くのMLOpsツールが現在解決に取り組んでいる困難な課題です。
MLラボから本番環境への移行は困難である
MLインフラストラクチャ分野のソートリーダーとの対話から、大規模な組織では、シンプルなモデルをプロトタイプから本番環境に移行するのに6～9ヶ月かかる場合があることがわかりました。ガートナーによると、現在、本番環境に移行しているMLモデルはわずか53%です。
ここで欠けているのがMLOpsです。MLOpsがなければ、単純な問題がMLモデルの実装を成功させる障壁となる可能性があります。「顧客の定義とは何か？」といった単純な質問でさえ、正確に答えるのは困難です。そして、この定義が変更された場合、その更新がシステム全体に確実に反映されるようにすることが、今日の課題となっています。
規制とコンプライアンス
規制産業では、一部のパラメータはモデルの学習に使用できません。例えば、連邦準備銀行のレギュレーションBは、人種、国籍、年齢、婚姻状況、性別など、あらゆる禁止事項に基づく融資申請者への差別を禁止しています。
インテリジェントなアラートとモデルトレーニングに関するポリシーの適用がなければ、組織は知らないうちに業界固有の規制に違反する可能性があります。
企業におけるAI導入の加速
MLOpsはDevOpsに似ており、人、プロセス、テクノロジーの組み合わせです。MLOpsカテゴリーに属するソフトウェアツールは、AIの運用化に必要なプロセスの一部を自動化します。
MLOps 分野は現在まだ初期段階ですが、組織が現在かかっている時間のほんの一部で AI を本番環境に導入できるため、大きな可能性を秘めています。
私たちは何に興奮しているのでしょうか?
私たちはデータ量の爆発的な増加をリアルタイムで目の当たりにしています。そのデータ量は、構造化データ、非構造化データなど多様な種類、ストリーミング、リアルタイム、静的データなど、多岐にわたり、しかも大容量（もはやギガバイトではなくペタバイト）です。シスコによると、2022年には、インターネットが誕生してからの32年間で発生したトラフィック量を上回ると予測されています。
データ生成のペースに追いつくために、テクノロジーは進化を余儀なくされてきました。こうしたテクノロジーの変化は、先見の明のある創業者にとって、何か興味深いものを構築する大きなチャンスを生み出します。私たちは、リアルタイムAIと分析を可能にするデータおよびMLインフラストラクチャ分野におけるイノベーションに期待を寄せています。
