LLMの脆弱性から企業を守るLakeraが2,000万ドルを調達

生成AIアプリケーションを悪意のあるプロンプトやその他の脅威から保護する技術を開発しているスイスのスタートアップ企業であるLakeraは、欧州のベンチャーキャピタル企業Atomicoが主導するシリーズAラウンドで2,000万ドルを調達した。

生成AIは、ChatGPTなどの人気アプリの牽引により、急成長するAIムーブメントの象徴的な存在として登場しました。しかし、セキュリティとデータプライバシーに関する問題が主な要因となり、企業環境においては依然として懸念材料となっています。

背景として、大規模言語モデル（LLM）は生成AIを支えるエンジンであり、機械が人間と同じようにテキストを理解し、生成することを可能にします。しかし、そのようなアプリケーションに詩を書かせたり、法的契約書を要約させたりする場合、出力を導くための指示が必要です。しかし、これらの「プロンプト」は、アプリケーションを誘導して本来行うべきではない動作をさせるように構築される可能性があります。例えば、トレーニングに使用された機密データを漏洩させたり、プライベートシステムへの不正アクセスを許可したりする可能性があります。このような「プロンプト・インジェクション」は現実に存在し、ますます懸念される問題であり、Lakeraはまさにこの問題に対処しようとしています。

迅速な対応

2021年にチューリッヒで設立されたLakeraは、昨年10月に1,000万ドルの資金調達を受けて正式にローンチし、データ漏洩やプロンプトインジェクションといったLLMのセキュリティ上の弱点から組織を保護することを明確な約束を掲げています。Lakeraは、OpenAIのGPT-X、GoogleのBard、MetaのLlama、AnthropicのClaudeなど、あらゆるLLMと連携します。

Lakera は、本質的には、生成 AI アプリケーションとの間のトラフィックを保護する「低遅延 AI アプリケーション ファイアウォール」として売り出されています。

同社の最初の製品である Lakera Guard は、Hugging Face でホストされているような公開されている「オープンソース」データセット、社内の機械学習研究、そして同社が開発した Gandalf と呼ばれる興味深いインタラクティブ ゲーム (ユーザーを騙して秘密のパスワードを明かそうとするゲーム) など、さまざまなソースからの洞察を収集するデータベースに基づいて構築されています。

ゲームはレベルが進むにつれてより洗練され（したがって「ハッキング」がより困難になります）、しかし、これらの相互作用により、Lakeraは「プロンプト・インジェクション分類法」と呼ばれるものを構築し、このような攻撃をカテゴリーに分類することができました。

テッククランチイベント

サンフランシスコ | 2025年10月27日～29日

Lakeraの共同創業者兼CEOであるDavid Haber氏は、TechCrunchに対し、「私たちはAIファーストであり、プロンプトインジェクションなどの悪意のある攻撃をリアルタイムで検知するための独自のモデルを構築しています」と説明しました。「私たちのモデルは、大量の生成AIインタラクションから、悪意のあるインタラクションがどのようなものか継続的に学習しています。その結果、私たちの検知モデルは、新たな脅威の状況に合わせて継続的に改善・進化しています。」

Lakera社は、自社のアプリケーションをLakera Guard APIと統合することで、企業は悪意のあるプロンプトに対する保護を強化できると述べています。さらに同社は、プロンプトやアプリケーションの出力をスキャンして有害なコンテンツを検出する専用モデルも開発しており、ヘイトスピーチ、性的コンテンツ、暴力、冒涜的な表現などを検出する専用検出器も備えています。

「これらの検出器は、チャットボットなどの公開アプリケーションに特に役立ちますが、他の設定でも使用されます」とハーバー氏は述べています。

プロンプト防御ツール セットと同様に、企業は Lakera のコンテンツ モデレーションのスマート機能を 1 行のコードで統合し、集中型のポリシー制御ダッシュボードにアクセスして、コンテンツの種類に応じて設定するしきい値を微調整できます。

Lakeraは新たに2,000万ドルを銀行に預け、特に米国で世界的な展開を拡大する準備が整った。同社はすでに、米国を拠点とするAIスタートアップ企業Respellやカナダのメガユニコーン企業Cohereなど、北米でかなり知名度の高い顧客を多数抱えている。

「大企業、SaaS企業、AIモデルプロバイダーは皆、安全なAIアプリケーションの導入を競っています」とハーバー氏は述べています。「金融サービス組織はセキュリティとコンプライアンスのリスクを理解しており、早期導入を進めていますが、業界全体で関心が高まっています。ほとんどの企業は、競争力を維持するために、GenAIをコアビジネスプロセスに組み込む必要があることを認識しています。」

LakeraのシリーズAラウンドには、リードスポンサーのAtomicoのほか、DropboxのVC部門、Citi Ventures、Redalpineも参加した。