クリエイターが芸術表現にAIを活用するケースが増えるにつれ、コンテンツ制作におけるAIの関与に関する透明性を求める動きも広がっています。この懸念に対処するため、TikTokは本日、クリエイターがAI生成コンテンツにラベルを付けられる新しいツールをリリースし、AI生成コンテンツに自動的にラベルを付ける他の方法のテストを開始すると発表しました。
同社は、AIコンテンツが視聴者を混乱させたり誤解させたりする可能性があるため、AIラベルの導入が必要だと判断したと述べています。もちろん、TikTokは合成メディアに対処するために既にポリシーを更新しており、ディープフェイクのようなリアルな画像、音声、動画を含むAIコンテンツにはラベルを貼ることを義務付けています。これは、視聴者が動画の文脈を理解しやすくし、誤解を招く情報の拡散を防ぐためです。TikTokのポリシーでは、公開されていないリアルなAI画像を削除することが認められています。
しかし、AIを意図的にユーザーを誤解させるために使用するという極端なケースを除けば、AI生成コンテンツの中には、本物か偽物かの境界線を越えるものもあります。このグレーゾーンでは、エンドユーザーは、閲覧しているコンテンツがAIによって大幅に編集または作成されたものかどうかを判断できるよう、より高い透明性を一般的に求めています。
TikTokが今回導入する新ツールは、クリエイターが合成メディアに関する既存のポリシーを遵守しやすくなるだけでなく、AIを用いて完全に生成されたコンテンツ、またはAIによって大幅に編集されたコンテンツにもラベルを付与できるようになります。このツールはクリエイターが動画をアップロードした時点で利用可能となり、TikTokはクリエイターが過去の動画にラベルを再度付与する必要がないと想定しています。
クリエイターが新しいツールを使用すると、TikTok は動画のユーザー名の下に、クリエイターが動画を AI 生成としてラベル付けしたことを示すメッセージを表示します。
しかし、TikTok は、既存の合成メディア ポリシーに該当しない AI コンテンツにラベルを付けなかったことでクリエイターを罰することはありません。
さらに、TikTokはAIコンテンツを自動的に検出し、ラベルを付ける方法の開発に取り組んでいると述べています。今週、AIによって編集または作成されたと検出されたすべてのコンテンツに最終的に適用される「AI生成」ラベルのテストを開始します。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
同社は、AIコンテンツの可能性を自社の技術がどのように検知するかについて具体的な情報開示を拒否した。こうした情報を共有することで、悪意のあるユーザーが検出機能を回避できる可能性があると指摘した。しかし、TikTokはAI向けの様々な検出モデルをテストし、コンテンツ自体にAIラベルを埋め込むことでプラットフォームによるAI検出能力の向上を支援するための出所提携を「評価」していると述べている。
AIのラベル付けは、大規模プラットフォームにおいてより一般的な慣行になりつつあり、OpenAIとGoogleはここ数ヶ月で独自のAI検出機能を発表しています。Instagramも、AIによって作成または編集されたコンテンツを強調表示する機能の開発に取り組んでいるようです。また、EUは偽情報対策の一環として、プラットフォームに対しAIコンテンツのラベル付けを原則として義務付けるよう求めています。
透明性向上への新たな取り組みの結果、TikTokはAIを活用したすべてのエフェクトの名称を「AI」を明示的に含めるように変更しました。これはこれまでTikTokが開示を拒否していた事項です。実際、TikTokの「Bold Glamor」フィルターがユーザーの顔を変身させるという技術的偉業で話題になった際、AR（拡張現実）ではなくAIを使用しているのではないかと疑う人もいました。しかし、TikTokは当時、この製品がAIであるかどうかを尋ねる報道機関の問い合わせに回答しませんでした。
新しいラベルの変更により、ユーザーはTikTokのフィルターのうち、AIを使用しているフィルターを一目で判断できるようになります。同社は、Effect Houseのクリエイター向けのガイドラインを更新し、同様の対応を求めると述べています。
TikTokは、新しいAIラベルの開発にあたり、安全諮問委員会や、MITのデイビッド・G・ランド博士をはじめとする業界専門家の意見も参考にしたと述べています。ランド博士は、ユーザーが様々なタイプのAIラベルにどのように反応するかを研究しています。その結果、TikTokは幅広い年齢層に広く理解されている「AI生成」という用語を採用しました。
また、今後数週間にわたって、ユーザーが AI をより深く理解できるように、教育ビデオやその他のメディア リテラシー リソースも展開する予定です。
TikTokによると、今回のアップデートは、メディアにおけるAI活用に関してTikTokが行っている他の取り組みに続くもので、2月にはAIの透明性と責任あるイノベーションのための業界ベストプラクティス規範である「合成メディアにおけるAIパートナーシップの責任ある実践」への参加を表明した。また、8月には非営利団体「デジタル・モーメント」と提携し、若者との円卓会議を開催し、オンラインでのAIの進歩に関する彼らの見解を学んだ。
AI ラベルは今日から展開を開始しますが、展開が完了するまですぐには表示されない可能性があります。
TikTokがコミュニティガイドラインを全面的に見直し、AIと気候に関する誤情報に関する新たなポリシーを追加
サラは2011年8月からTechCrunchの記者として働いています。彼女はReadWriteWebで3年以上勤務した後、TechCrunchに入社しました。記者になる前は、銀行、小売、ソフトウェアなど、様々な業界のIT業界で働いていました。
Sarah からの連絡を確認したり連絡を受けたりする場合は、[email protected]にメールを送信するか、Signal で sarahperez.01 に暗号化されたメッセージを送信してください。
バイオを見る
