TikTokがプラットフォームの安全性をめぐり、史上初の大規模な議会公聴会に招かれてから数ヶ月後、同社は本日、動画ベースのソーシャルネットワークをより安全で安心な環境にすることを目指した一連のポリシー更新と新機能・技術計画を発表した。特に若年層ユーザーにとって安全だ。これらの変更は、TikTokのビジネス慣行に関する調査で米国上院議員が提起した懸念事項、例えばアプリ上での摂食障害コンテンツや危険なデマの蔓延など、10代や20代の若者に特に有害な問題への対処を試みている。さらにTikTokは、LGBTQに関するヘイトイデオロギーや未成年者の安全確保といった深刻な問題に対処するためのロードマップも提示している。未成年者の安全確保については、クリエイターにコンテンツの年齢適合性を指定させる必要がある。
TikTokはまた、プラットフォームの「セキュリティ、完全性、可用性、信頼性」を保護するためのポリシーを拡大していると述べた。この変更は、バイデン政権が米国のユーザーデータを外国の敵対勢力による悪用から保護するために、中国のアプリに対する新たな規則を検討しているという最近の報道を受けたものである。同社は、TikTokのコンテンツ、アカウント、システム、データへの不正アクセスをより効果的に防止するための取り組みの一環として、今年中にワシントンD.C.、ダブリン、シンガポールにサイバーインシデント監視および調査対応センターを開設すると発表した。
TikTok に今後起こるもう一つの大きな変化は、年齢に適したデザインへの新たなアプローチであり、これはすでに規制当局が念頭に置いている話題である。
英国では、子供向けのデジタルサービスは、児童のプライバシー、追跡、ペアレンタルコントロール、操作的な「ダークパターン」の使用などに関する法規制を遵守することが義務付けられました。一方、米国では、10代の若者への保護を強化するため、既存の児童プライバシー法（COPPA）の改正に取り組んでいます。TikTokは既に年齢層ごとに異なる製品体験を提供していますが、今後は、10代前半と後半、そして成人それぞれに適したコンテンツを特定したいと考えています。
TikTokは、特定の種類のコンテンツを識別し、10代の若者によるアクセスを制限するシステムを開発中だと発表しました。同社はまだ新システムの詳細を明らかにしていませんが、3つの要素から構成されます。まず、コミュニティメンバーはアプリ内で表示させたい「コンフォートゾーン」（コンテンツの成熟度レベル）を選択できるようになります。また、保護者はTikTokの既存のファミリーペアリングペアレンタルコントロール機能を使用して、未成年の子供に代わってこの設定を行うこともできます。最後に、TikTokはクリエイターに対し、コンテンツが成人向けに適しているかどうかを指定するよう求めます。
「クリエイターたちから直接、特定の年齢層の視聴者にのみリーチしたいという要望があるという話を聞きました。例えば、大人向けのユーモアのあるコメディを制作したり、大人にしか関係のない退屈な職場のヒントを提供したり、あるいは非常に困難な人生経験を語ったりするかもしれません」と、TikTokの米国問題政策責任者で、プラットフォームの未成年者安全対策を監督するトレイシー・エリザベス氏は記者会見で説明した。「こうした多様なトピックを考慮し、クリエイターが特定のコンテンツをより効果的に対象視聴者に届けられるよう、より効果的な方法をテストしています」と彼女は述べた。
エリザベスは2020年初頭にTikTokに入社し、未成年者の安全確保に注力してきました。2021年11月に昇進し、現在は未成年者の安全確保、誠実性と信頼性、嫌がらせといじめ、コンテンツ分類、応用研究の各チームを含む、信頼性と安全性に関する問題に関するポリシーチームを監督しています。TikTok入社前は、Netflixに3年半以上在籍し、グローバル成熟度評価部門の設立に貢献しました。この経験は、TikTokでの彼女の取り組みに活かされています。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
しかし、エリザベス氏によると、TikTokは動画に「表示可能な」評価やラベルを付けて、視聴者が一目でコンテンツの年齢相応性を判断できるようにするまでには至らないという。TikTokはバックエンドでの分類に頼ることになるが、これはクリエイターが何らかの方法でコンテンツにタグを付けることに依存することになる。（YouTubeも同様のアプローチを採用しており、例えばクリエイターにコンテンツが成人向けか「子供向け」かを指定するよう求めている。）
TikTokは、現在この分野で小規模なテストを実施中だが、まだ公表できるものは何もないと述べている。
「まだ、あらゆる機能を盛り込んだ製品を導入する段階ではありません。しかし、ごく一部のユーザーエクスペリエンスをテストし、実際にどのように機能するかを確認し、その後調整を加えていく予定です」とエリザベスは述べた。
TikTokの更新されたコンテンツポリシー
TikTokは本日、コンテンツ成熟度システムの計画に加え、憎悪的思想、危険な行為やチャレンジ、摂食障害コンテンツという3つの主要分野でコンテンツポリシーを改訂すると発表した。
同社はすでにこれらの各主題に対処するポリシーを定めていたが、現在、これらのポリシーを明確化、改良し、場合によってはコミュニティガイドライン内の独自のカテゴリに移動して、ポリシーの施行方法に関するより詳しい情報と具体的な内容を提供している。
ヘイトイデオロギーに関しては、TikTokは禁止トピックについて明確な規定を設けています。このポリシーでは、デッドネームや性別誤認、女性蔑視、転向療法プログラムを支持または促進するコンテンツといった行為は禁止されると明記されます。TikTokによると、これらのテーマは既に禁止されていましたが、クリエイターや市民社会団体から、明文化されたポリシーをより明確にすべきだという意見が寄せられました。TikTokと協力してこのポリシーを策定したGLAADは、CEOのサラ・ケイト・エリス氏による変更を支持する声明を公開し、「これはオンラインにおけるLGBTQの安全基準を高めるものであり」、「LGBTQの安全を最優先すると主張する他のプラットフォームも、このような具体的な行動をとるべきだというメッセージを送るものだ」と述べています。
拡大されるもう一つのポリシーは、危険な行為やチャレンジに焦点を当てています。これは、TikTokが最近、安全センターやその他のリソースを更新し、不快で危険な、さらには致命的なバイラルトレンド（「先生を平手打ちする」チャレンジ、ブラックアウトチャレンジ、生徒に学校の備品を破壊するよう促すチャレンジなど）の急増を受けて対処した分野です。TikTokは、これらのコンテンツの一部をプラットフォーム上でホストしていることを否定し、例えば、アプリ上で窒息チャレンジの証拠は見つからなかったとし、「先生を平手打ちする」はTikTokのトレンドではないと主張しました。しかし、TikTokは安全専門家や研究者の助言に基づき、安全センターにチャレンジやデマに関する情報を追加し、アプリ上でそのようなコンテンツが検索された際に新たな警告を表示する措置を講じました。
TikTokは本日、危険な行為やチャレンジについても独自のポリシーに明記し、TikTokの若いユーザーがオンラインコンテンツをより適切に判断できるよう支援することを目的とした、より広範なPSAスタイルのキャンペーンの一環として、クリエイター向け動画シリーズを公開すると発表しました。これらの動画は、ユーザーがオンラインチャレンジに遭遇した際に「立ち止まり、考え、決断し、行動する」よう促すメッセージを伝えます。つまり、少し立ち止まり、チャレンジが本物かどうか（または不明な場合は大人に確認する）、リスクや有害性があるかどうかを判断し、アプリ内でチャレンジを報告し、共有しないことを選択するという行動です。
摂食障害に関するコンテンツは、TikTokだけでなく、Instagram、YouTube、Snapchatといった他のソーシャルネットワークにとっても議会公聴会の主要な焦点となっているが、TikTokはより具体的な措置を講じている。同社は既に過食症や拒食症を美化するコンテンツなど、「摂食障害」コンテンツを削除しているが、今後はポリシーを拡大し、「摂食障害」コンテンツの宣伝を制限するとしている。この用語は、極端なカロリー計算、短期間の断食、さらには過剰な運動など、後に摂食障害の診断につながる可能性のある他の初期段階の兆候も包含することを目指している。しかし、こうした判断には微妙なニュアンスが絡むため、TikTokにとってこれはより難しい分野となっている。
同社は、こうした動画の中にはそれ自体は問題のない動画もあると認めているものの、人々がフィルターバブルに閉じ込められ、こうしたコンテンツを過剰に消費しているケースが見受けられる場合、どのような「遮断装置」を設置できるか検討する必要があるとしている。これは、TikTokが12月に発表したニュースに続くもので、同社は製品チームと信頼・安全チームが協力し、ユーザーのフィルターバブルを「破る」機能の開発を開始したと発表している。この機能は、推奨機能を通じて、より多様な体験を提供する他の分野へと誘導するものだ。
この3つのポリシー更新は一見良さそうに聞こえるかもしれませんが、実際の施行は極めて重要であり、困難です。TikTokはこうしたコンテンツの一部に対してガイドラインを設けていましたが、女性蔑視やトランスフォビア的なコンテンツは繰り返し見落とされてきました。一部のテストによると、TikTokのアルゴリズムによって違反コンテンツが推奨されることさえありました。TikTokはこうしたモデレーションの失敗から学び、改善していくとしています。
「TikTokでは、安全だと感じられることが、すべての人の創造性を真に開花させ、輝かせる鍵だと強く信じています。しかし、よく練られ、ニュアンスに富み、ユーザーファーストのポリシーがゴールではありません。むしろ、ポリシーの強さは、その施行力にあります」と、TikTokの米国トラスト＆セーフティチームのポリシーディレクター、タラ・ワドワ氏は今回のアップデートについて述べています。「私たちは、TikTokが提供するすべての機能にポリシーを適用しており、その施行において一貫性と公平性を保つよう全力を尽くしています」と彼女は述べています。
現在、コンテンツは潜在的なポリシー違反を特定するよう訓練された技術を経由し、違反コンテンツと判断された場合は即座に削除されます。そうでない場合は、人間によるモデレーションのために保留されます。しかし、このタイムラグはクリエイターに影響を与えます。クリエイターは、なぜ自分のコンテンツが決定まで何時間も（あるいは何日も！）も保留されるのか、あるいはなぜ違反していないコンテンツが削除され、異議申し立てをしなければならないのか理解できずにいます。こうしたミスは、多くの場合アルゴリズムや人為的なミスに起因するものですが、クリエイターはTikTokに個人的に標的にされていると感じてしまう可能性があります。
モデレーションの問題に対処するため、TikTokはボディポジティブ、インクルーシビティ、公民権、カウンタースピーチなどの分野に特化したモデレーター研修に投資していると述べている。同社によると、昨年第3四半期にアップロードされた動画の約1%、つまり9100万本がモデレーションポリシーによって削除されており、その多くは視聴される前に削除されたという。同社は現在、米国の正社員と東南アジアの契約モデレーターを合わせて「数千人」のモデレーターを雇用し、24時間365日体制で対応している。また、ミスがあった場合は社内で事後検証を行っているという。
しかし、管理すべきコンテンツが増えるにつれて、モデレーションやポリシーの適用に関する問題はより困難になります。そしてTikTokは今や、世界最大級のアプリの一つとしてFacebookの成長を阻害するほどに成長しました。実際、Metaは先日、Facebookが第4四半期に初めてユーザー数が減少したと報じましたが、その一因はTikTokにあるとしています。TikTokをお気に入りのソーシャルネットワークとして利用する若者が増えるにつれ、Facebookは正しいことを言うだけでなく、実際に正しく行うことが求められるようになるでしょう。
