Google Playのポリシー更新により、「不快な」AIアプリや迷惑な通知が取り締まる

Googleは、来年初めから施行される新しいポリシーで、問題を引き起こす可能性のある生成AIアプリをターゲットにしています。このポリシーでは、Playストアで公開されるAndroidアプリの開発者に対し、不適切なAI生成コンテンツを報告またはフラグ付けする機能を提供することを義務付けます。新しいポリシーでは、フラグ付けと報告はアプリ内で行えるようになり、開発者は報告内容を参考に、フィルタリングとモデレーションへの独自のアプローチを策定する必要があるとGoogleは述べています。

このポリシー変更は、AI生成アプリの急増を受けてのものです。その中には、昨年のLensaのように、ユーザーがアプリを騙してNSFW画像を作成させてしまうものもありました。一方、より微妙な問題を抱えているものもあります。例えば、今年の夏に話題になったAIヘッドショット作成アプリ「Remini」は、一部の女性の胸や谷間を大きく誇張し、逆に薄く見せてしまうことが判明しました。さらに最近では、MicrosoftとMetaのAIツールに関する問題もあり、ソニック・ザ・ヘッジホッグの妊娠や架空のキャラクターによる9/11といった画像を作成するために、ガードレールを回避しようとする人々が発見されました。

もちろん、AI画像生成ツールの利用については、さらに深刻な懸念があります。小児性愛者がオープンソースのAIツールを使用して児童性的虐待素材（CSAM）を大規模に作成していたことが発覚したためです。また、来たる選挙では、AIを利用して偽画像、いわゆるディープフェイクを作成し、有権者を欺いたり、誤った情報を提供したりすることへの懸念も高まっています。

新しいポリシーの本文では、AI生成コンテンツの例には、「チャットボットとの対話がアプリの中心的な機能である、テキスト対テキストの会話型生成AIチャットボット」が含まれると示されており、これにはChatGPTなどのアプリや、「テキスト、画像、または音声プロンプトに基づいてAIによって画像が生成される」アプリが含まれます。

Googleは発表の中で、AIコンテンツジェネレーターを含むすべてのアプリは、CSAMや欺瞞行為を可能にするその他の制限付きコンテンツを禁止する既存の開発者ポリシーに準拠する必要があることを開発者に思い出させた。 

Googleは、AIコンテンツアプリを取り締まるためのポリシー変更に加え、写真や動画への広範な権限を要求するアプリなど、一部のアプリの権限についてもGoogle Playチームによる追加審査を実施すると発表しました。新しいポリシーでは、アプリは機能に直接関連する場合にのみ写真や動画にアクセスできます。ユーザーに自撮り写真のアップロードを求めるAIアプリなど、一度限りまたはまれにしかアクセスできない場合は、Androidの新しい写真ピッカーのようなシステムピッカーを使用する必要があります。

この新しいポリシーでは、邪魔になるような全画面通知の表示を、優先度の高いニーズがある場合のみに制限します。全画面通知をポップアップ表示する機能は、多くのアプリでユーザーを有料サブスクリプションやその他のオファーにアップセルするために悪用されてきましたが、実際にはこの機能は電話やビデオ通話の受信など、現実世界で優先度の高いユースケースに限定されるべきです。Googleは、今後この制限を変更し、特別なアプリアクセス権限を要求すると発表しました。この「全画面インテント権限」は、Android 14以降をターゲットとし、実際に全画面機能を必要とするアプリにのみ付与されます。