通話を録音し、その音声データに対して報酬を支払い、そのデータを AI 企業に販売するという新しいアプリが、信じられないことに、Apple の米国 App Store のソーシャル ネットワーキング セクションで第 2 位のアプリとなっている。
Neon Mobileというアプリは、音声会話へのアクセスに対して「年間数百ドル、あるいは数千ドル」を提供する金儲けツールだと売り込んでいる。
Neonのウェブサイトによると、Neonユーザー同士の通話は1分あたり30セント、他のユーザーへの通話は1日あたり最大30ドルの通話料が支払われる。また、紹介料も支払われる。アプリ情報会社Appfiguresのデータによると、このアプリは9月18日に米国App Storeのソーシャルネットワーキング部門で初登場476位だったが、昨日の終わりには10位に急上昇した。
水曜日、Neon は iPhone の無料ソーシャル アプリのトップ チャートで第 2 位にランクされました。
Neonはまた、水曜日の朝早くに総合アプリ・ゲーム部門で第7位となり、アプリ部門では第6位となった。
Neonの利用規約によると、同社のモバイルアプリはユーザーの着信および発信通話を録音できます。ただし、Neonのマーケティング担当者は、他のNeonユーザーとの通話でない限り、通話は自分側の通話のみを録音すると主張しています。
Neonの利用規約には、そのデータは「機械学習モデル、人工知能ツールとシステム、および関連技術の開発、トレーニング、テスト、改善を目的として」AI企業に販売されると記載されている。
このようなアプリが存在し、アプリストアで許可されているという事実は、AIがユーザーの生活やかつてはプライベートと考えられていた領域にどれほど深く浸透しているかを示しています。一方、Apple App Storeにおけるこのアプリのランキングが高いことは、市場の一部の人々が、たとえ自分自身や社会にとって大きな犠牲を払うことになっても、わずかな金額と引き換えにプライバシーを犠牲にする意思があるように見えることの証左です。
Neon のプライバシー ポリシーの内容にもかかわらず、その規約にはユーザー データに対する非常に広範なライセンスが含まれており、Neon は次のような権利を自らに付与しています。
…世界規模で、独占的、取消不能、譲渡可能、ロイヤリティフリー、全額支払済みの権利およびライセンス（複数の階層でサブライセンスする権利を含む）で、販売、使用、ホスト、保存、譲渡、公開、公開実行（デジタル音声伝送によるものを含む）、公衆への伝達、複製、表示形式設定の目的での変更、本規約で許可されているとおりの派生作品の作成、および、録音内容の全部または一部を、あらゆるメディア形式およびあらゆるメディア チャネル（いずれの場合も、現在既知または今後開発されるもの）を通じて配信することができます。
これにより、Neon がユーザーのデータを利用して主張している以上のことを行える余地が十分に残されることになる。
利用規約には、保証がなく、さまざまな問題やバグがある可能性のあるベータ機能に関する詳細なセクションも含まれています。
Neon のアプリには多くの問題点があるものの、技術的には合法である可能性があります。
「通話の片側だけを録音するのは盗聴法を回避することが目的です」と法律事務所ブランク・ローマのプライバシー、セキュリティ＆データ保護グループのパートナー、ジェニファー・ダニエルズ氏はTechCrunchに語った。
「多くの州の法律では、会話を録音するには双方の同意が必要です。興味深いアプローチですね」とダニエルズ氏は言う。
Greenberg Gluskerのサイバーセキュリティおよびプライバシー弁護士、ピーター・ジャクソン氏も同意見で、TechCrunchに対し、「一方的なトランスクリプト」という言葉は、Neonがユーザーの通話全体を録音するが、最終的なトランスクリプトから相手が言った内容を削除するだけかもしれないと裏で言っているように聞こえると語った。
さらに、法律専門家は、データが実際にどの程度匿名化されるのかという懸念を指摘した。
Neonは、AI企業にデータを販売する前に、ユーザーの名前、メールアドレス、電話番号を削除していると主張しています。しかし、AIパートナーや販売先の企業がそのデータをどのように使用するかについては明らかにしていません。音声データは、あたかもあなたから発信されたかのように聞こえる偽の通話に利用される可能性があり、AI企業があなたの声を使って独自のAI音声を作成する可能性もあります。
「あなたの声がそこに流れれば、詐欺に利用される可能性があります」とジャクソン氏は言う。「この会社はあなたの電話番号と、基本的に十分な情報、つまりあなたの声の録音を握っており、それを使ってあなたのなりすましやあらゆる種類の詐欺を行うことができるのです。」
Neon自体は信頼できる企業であるとしても、信頼できるパートナーが誰なのか、また、それらのパートナーが将来的にユーザーのデータをどのように扱うことが許可されているのかを開示していません。また、貴重なデータを持つ企業であれば誰でもそうであるように、Neonもデータ漏洩の危険にさらされています。
TechCrunchによる簡単なテストでは、Neonはユーザーの通話を録音していることを示す兆候を一切示さず、通話相手への警告もありませんでした。アプリは他のVoIPアプリと同様に動作し、発信者番号は通常通り、着信番号が表示されました。（アプリのその他の主張については、セキュリティ研究者に検証を委ねます。）
ネオンの創設者アレックス・キアム氏はコメントの要請に応じなかった。
会社のウェブサイトでは「アレックス」とだけ記載されているキアム氏は、ニューヨークのアパートでネオンを運営していることが事業報告書で明らかになった。
LinkedInの投稿によると、キアム氏は数か月前に自身のスタートアップのためにUpfront Venturesから資金を調達したとのことだが、本稿執筆時点で同投資家はTechCrunchからの問い合わせに返答していない。
AI はユーザーのプライバシーに関する懸念を鈍感にさせているのでしょうか?
モバイルアプリを通じたデータ収集で利益を得ようとした企業が、この種のことを密かに行っていた時代がありました。
2019年にFacebookが10代の若者にスパイアプリのインストール料を支払っていたことが明らかになり、大きなスキャンダルとなりました。翌年には、アプリストア分析プロバイダーが、一見無害に見える数十のアプリを運営し、モバイルアプリエコシステムの使用状況データを収集していたことが発覚し、再び大きなニュースとなりました。VPNアプリは、謳い文句ほどプライバシーが保護されていないことが多く、注意を促す警告が頻繁に出ています。政府機関が市場で「市販されている」個人データを定期的に購入している実態を詳述した政府報告書さえあります。
現在、AIエージェントは定期的に会議に参加してメモを取り、常時接続のAIデバイスも市場に出回っています。しかし、少なくともこれらのケースでは、全員が録音に同意しているとダニエルズ氏はTechCrunchに語っています。
個人データがこのように広く利用され、販売されていることを考えると、自分のデータがどうせ販売されるのであれば、そこから利益を得てもいいと考えるほど冷笑的な人々もいるだろう。
残念ながら、彼らは自分が認識している以上に多くの情報を共有しており、その結果、他人のプライバシーを危険にさらしている可能性があります。
「知識労働者はもちろん、率直に言って誰もが、仕事をできるだけ楽にしたいという強い願望を持っています」とジャクソン氏は言います。「そして、こうした生産性向上ツールの中には、当然のことながらプライバシーを犠牲にしてそれを実現するものもありますが、日々やり取りする人々のプライバシーもますます犠牲にしているのです。」
