マイクロソフト、新たな訴訟でAIサービスを悪用するツールを開発したグループを非難

マイクロソフトは、同社のクラウド AI 製品の安全ガードレールを回避するツールを意図的に開発し使用したと主張するグループに対して法的措置を講じた。

同社が12月にバージニア州東部地区連邦地方裁判所に提出した訴状によると、10人の無名の被告のグループが盗んだ顧客の認証情報とカスタム設計のソフトウェアを使用して、ChatGPTメーカーのOpenAIの技術を活用したMicrosoftの完全管理型サービスであるAzure OpenAI Serviceに侵入した疑いがある。

同社は差止命令および「その他の衡平法上の」救済と損害賠償を求めている。

訴状によると、マイクロソフトは2024年7月、Azure OpenAIサービスの認証情報（具体的にはAPIキー、アプリまたはユーザーの認証に使用される固有の文字列）を持つ顧客が、サービスの利用規約に違反するコンテンツを生成するために使用されていたことを発見したと述べています。訴状によると、その後の調査で、マイクロソフトは有料顧客からAPIキーが盗まれたことを発見しました。

「本訴状に記載されている不正行為を実行するために使用されたすべてのAPIキーを被告がどのように入手したかは正確には不明であるが、被告は複数のMicrosoft顧客からMicrosoft APIキーを盗むことを可能にした組織的なAPIキー窃盗のパターンに関与していたようだ」とMicrosoftの訴状には記されている。

マイクロソフトは、被告らが米国に拠点を置く顧客が所有する盗まれたAzure OpenAIサービスのAPIキーを用いて「サービスとしてのハッキング」スキームを作成したと主張している。訴状によると、被告らはこのスキームを実行するために、「de3u」と呼ばれるクライアント側ツールと、de3uからマイクロソフトのシステムへの通信を処理およびルーティングするソフトウェアを作成した。

テッククランチイベント

サンフランシスコ | 2025年10月27日～29日

De3uは、ユーザーが盗んだAPIキーを利用して、Azure OpenAIサービスのユーザーが利用できるOpenAIモデルの1つであるDALL-Eを使用して、独自のコードを記述することなく画像を生成できるようにしていたと、Microsoftは主張している。訴状によると、De3uはまた、Azure OpenAIサービスが画像生成に使用するプロンプトを修正することを阻止しようとした。これは、例えば、テキストプロンプトにMicrosoftのコンテンツフィルタリングをトリガーする単語が含まれている場合などに発生する可能性がある。

Microsoft が所有する GitHub でホストされている de3u プロジェクト コードを含むリポジトリは、記事執筆時点ではアクセスできなくなっています。

「これらの機能と、被告によるAzure OpenAIサービスへの違法なプログラムAPIアクセスを組み合わせることで、被告はMicrosoftのコンテンツおよび不正利用対策を回避するリバースエンジニアリングを行うことが可能になった」と訴状には記されている。「被告は、Azure OpenAIサービスで保護されたコンピューターに故意に無許可でアクセスし、その結果、損害と損失を引き起こした。」

マイクロソフトは金曜日に公開したブログ記事で、裁判所が同社に対し、被告らの活動に「不可欠な」ウェブサイトを差し押さえる許可を与えたと述べている。これにより同社は証拠を収集し、被告らの主張するサービスがどのように収益化されているかを解明し、発見された追加の技術インフラを妨害することができるようになる。

マイクロソフトはまた、具体的には明かさなかったが「対策を講じた」と述べ、観察されたアクティビティを対象にAzure OpenAIサービスに「追加の安全対策を講じた」としている。