Prompt SecurityはGenAIを企業にとって安全なものにしたいと考えています

企業は、ジェネレーティブAIの活用をかつてないほど迅速に進め、従業員とユーザーの両方に導入しています。しかし、迅速な対応とセキュリティは必ずしも両立するとは限りません。そのため、多くの企業がジェネレーティブAIの活用に伴う潜在的なセキュリティ上の懸念に気づき始めたのは、ようやく最近のことです。イスラエルに拠点を置くPrompt Securityは、企業が従業員からGenAIツール（企業のITチームが公式に承認していないツール（「シャドーAI」など）も含む）へのデータ漏洩を防ぐとともに、顧客向けのGenAI対応アプリケーションのセキュリティ確保も支援したいと考えています。

同社は本日ステルスモードから脱し、Hetz Venturesが主導し、Four Riversや、Airbnb、Elastic、DolbyのCISOを含むこの分野の多くのエンジェル投資家が参加した500万ドルのシードラウンドを発表した。

Prompt Securityは、かつてCheck PointとOrca Securityで働いていたイタマー・ゴラン氏（CEO）とリオル・ドリヘム氏（CTO）によって設立されました。「私はずっと自分の会社を立ち上げたいと思っていました。AIとセキュリティは私の最大の情熱でしたが、5年前は市場がまだ十分に成熟していないと感じていました。だから、適切な時期を待っていたんです」とゴラン氏は語りました。

それから約18ヶ月前、Orcaの彼のチームはAIベースの修復機能の実装を検討し始め、最終的にDrihemと共同で開発することになりました。これが、チームがこの新会社を設立するきっかけとなりました。「開発を通して様々なバックドアが残されていることに気づき、お互いに意見を交わしました。『新しいアーキテクチャとフレームワークによって、新たな攻撃対象領域が生まれている。プロンプトインジェクションのような手法は突然不可能になる』と。そして、新しい市場が勃興しようとしていることを理解したのです。」

Golan は、LLM アプリケーションのセキュリティを強化する OWASP Top 10 イニシアチブにも参加しています。

ゴラン氏は、今日のCISO（最高情報セキュリティ責任者）が抱える問題の一つは、ユーザーが自社ネットワーク内からどのツールにアクセスしているのかをきちんと把握できていないことだと説明した。そのため、例えば従業員がこれらのサービスと個人情報を共有するといった事態も起こり得る。こうしたデータ漏洩はそれ自体が問題であるだけでなく、企業が規制上の問題に直面するリスクも孕んでいる。ユーザーの視点から見ると、このような事態を防ぐためのPrompt Security社の製品は、ブラウザ拡張機能とIDEプラグインである。同社のツールは、GenAIの使用に関連するパターンを自動的に検出し、その上に適用ポリシーを重ねる。同社によると、これらすべてによってユーザーエクスペリエンスに生じる遅延は最小限に抑えられるという。

一方、アプリケーション側では、GenAI チャット アプリはプロンプト インジェクションやジェイルブレイクを通じて新たな攻撃対象領域を開き、攻撃者が企業のネットワーク内で不正なコードを実行できるようになる可能性もあります。