Metaは本日、全米行方不明・被搾取児童センター（NCMEC）の支援を受け、18歳未満の若者が自身のプライベートな画像がオンラインで拡散されるのを防ぐための支援を行う新しい組織「Take It Down」への資金提供を発表した。このシステムはオンラインツールとして利用可能で、Facebookが以前実施した、合意のないプライベートな画像（いわゆる「リベンジポルノ」）の拡散防止策と同様の仕組みとなっている。
Metaは、このサービス開始と並行して、「疑わしい大人」がInstagramで10代の若者と交流することをより困難にする新しいツールも展開すると述べている。
同社は、合意のない性的な画像を削除する新しいシステムは、若者が実際にMetaや他の組織に画像を共有する必要がないため、ユーザーのプライバシーを保護するように設計されていると主張している。代わりに、このシステムはユーザー自身のデバイスから直接、画像または動画に固有のハッシュ値（数値コード）を割り当てる。このハッシュはNCMECに送信され、企業はこれらの画像のコピーを見つけて自動的に削除できるだけでなく、将来の投稿も防止できる。
いわゆる「リベンジポルノ」と呼ばれる当初のシステムは、試験運用中にハッシュ作成前にユーザーのアップロードを必須としていたため、批判を浴びました。セキュリティ専門家は、プライベートなコンテンツを扱う方法としては最も責任ある方法ではないと反論しました。その後、ハッシュをローカルで作成するように改良され、ヘルプドキュメントには「画像がコンピュータから外部に漏れることはありません」と記載されています。そして今、この新しいTake It Downシステムも同じ手法を採用しているようです。
「個人的な親密な画像を他人と共有することは、特に若者にとって恐ろしく、耐え難いものになりかねません」と、Metaのグローバルセーフティ責任者であるアンティゴネ・デイビス氏は発表の中で述べています。「さらにひどいのは、誰かがそれらの画像を利用して、さらなる画像、性的接触、あるいは金銭を要求する脅迫をしようとする場合です。これはセクストーションと呼ばれる犯罪です。」
このシステムは、個人的な画像が同意なく、違法に共有されている若者を対象としているが、若者の両親や保護者、さらには幼い頃に同意なく撮影された自分の画像を心配する大人も利用できるとメタ氏は指摘している。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
Take It Down ウェブサイトは、自分の露骨な画像がウェブ上に公開されているかどうかを検索するためのツールや、画像やその他のオンライン搾取に関して脅迫している人を報告するための CyberTipline など、NCMEC の他のリソースにもユーザーをつなげます。
Metaは初期資金を提供してこのシステムを財政的に支援し、FacebookとInstagramで利用する予定ですが、この新技術の利用に賛同した他の企業には、ソーシャルネットワークのYubo、アダルトサイトのOnlyFans、Pornhub（MinGeek）などがあります。注目すべきは、TwitterやSnapchatといった大手テクノロジー企業がこのリストに含まれていないことです。
それ以来、200件以上の訴訟が提起されている。
NCMECによると、このシステムは実際には今回の公表に先立つ2022年12月に開始されており、それ以来200件以上の申請が寄せられているという。広告代理店VCCPが制作した新しいPSAは、子供たちが利用するプラットフォームに掲載され、確実に見られるようにする予定だ。
TechCrunchが行った限定的なテストでは、このツールに画像を送信すると、そのハッシュ値がブラウザに即座に返されますが、約束通り画像がインターネットにアップロードされることはありません。ただし、このシステムはウェブアプリとして提供されるため、多くのブラウザ拡張機能がウェブページにアクセスできる場合、画像にアクセスできる可能性があることをユーザーは認識しておく必要があります。セキュリティ強化のため、Google Chromeをご利用の場合は、クリーンなChromeウィンドウにアクセスするためにゲストプロファイルを使用することをお勧めします。
このシステムは、共有されている合意のない画像を認識している、あるいは所有している人にとって、削除オプションの存在を知っている限り、有用なツールとなる可能性があります。企業は既に児童性的虐待コンテンツ（CSAM）をNCMECに報告する法的義務を負っていますが、こうしたコンテンツを検出するためのシステムやプロセスは、各社の導入に委ねられてきました。現在の連邦法では、企業が自社のプラットフォーム上でこの種の画像を検索する義務の有無や方法について規定しておらず、CSAMがプラットフォーム間で拡散する事態につながっています。Facebookだけでも月間29億6000万人のユーザーを抱えるMetaが、この問題の深刻化に大きく貢献していることは当然のことです。一方、EARN ITのような、この抜け穴を塞ぐ新たな法案を可決しようとする試みはまだ成功していません（ただし、この法案自体も、言論の自由や消費者のプライバシーに意図しない影響を及ぼす可能性があるとして物議を醸したと批評家は主張しています）。
しかし、この分野における法整備の欠如により、Metaのようなプラットフォームは、この種のコンテンツやその他のコンテンツをどのように管理するかについて、自主規制を余儀なくされています。議会がインターネット時代に対応した新たな法律を可決できない状況の中、大手IT企業のプラットフォーム上のコンテンツに対する法的責任に関する懸念は、今や最高裁判所にまで持ち込まれています。最高裁判所では、判事たちが通信品位法第230条を審査しています。この条項は、インターネット黎明期に制定され、ウェブサイトがユーザーが投稿したコンテンツに対する法的責任を負わないように保護することを目的としています。TwitterとGoogleのYouTube、そしてそれらに付随する推奨アルゴリズムに関する新たな訴訟は、数十年にわたるこれらの保護措置を撤回すべきか、あるいは覆すべきかを判断する材料となるでしょう。CSAMとは関係ありませんが、これらは米国におけるプラットフォーム規制システム全体の欠陥を示すもう一つの例です。
法律の指針がないまま、Meta のようなプラットフォームは、アルゴリズムの選択、設計、推奨技術、エンドユーザーの保護といった分野で独自のルールやポリシーを作り上げてきました。
ここ数ヶ月、Metaは今後の規制を見据え、10代の若者向けの保護を強化してきました。新規の10代向けアカウントをデフォルトで非公開に設定し、最も厳しい制限設定を適用するほか、様々な安全ツールやペアレンタルコントロールを導入しています。これらのアップデートには、成人ユーザーが知らない10代の若者と連絡を取ることを制限したり、10代のユーザーに大量の友達リクエストを送信するなど、疑わしい行動をとる成人について10代の若者に警告したりする機能が含まれています。
Metaは本日、疑わしい大人が、投稿に「いいね！」した人のリストをスクロールしたり、アカウントのフォロワーやフォロー中のリストを閲覧したりする際に、10代のアカウントが表示されなくなり、アクセスがさらに遮断されると発表しました。また、疑わしい大人がInstagramで10代の若者をフォローした場合、10代の若者にはフォロワーを確認して削除するよう促す通知が届きます。さらに、10代の若者にはプライバシー設定を確認し制限するよう促す通知が届きます。さらに、10代の若者の投稿にコメント、タグ付け、メンション、リールのリミックスやガイドへの追加が行われた場合にも、10代の若者に通知が届き、設定を確認するよう促されます。
