様々なソーシャルネットワークである程度有名人であれば、返信やコメントでヘイトスピーチにさらされる可能性が高くなります。フランスのスタートアップ企業Bodyguardは最近、有害なコンテンツをユーザーから隠すためのアプリとサービスを英語版でリリースしました。フランス語版は数年前から提供されており、これまでに5万人のユーザーを獲得しています。
「私たちは、インターネット上のヘイトスピーチを90～95％の精度で検出し、誤検出はわずか2％の技術を開発した」と創業者兼CEOのチャールズ・コーエン氏は語った。
同社は誰でも使えるモバイルアプリからスタートしました。アプリをダウンロードし、お気に入りのソーシャルネットワークと連携させた後、モデレーションのレベルを選択します。侮辱、ボディシェイミング、モラルハラスメント、セクハラ、人種差別、同性愛嫌悪など、複数のカテゴリーがあり、それぞれのカテゴリーについて、優先度を低くするか高くするかを選択できます。
その後は、アプリを再度開く必要はありません。Bodyguardはサーバーから返信やコメントをスキャンし、問題がないかどうかを判断します。例えば、コメントを非表示にしたり、ユーザーをミュートしたり、ブロックしたりすることができます。InstagramやTwitterを再度開くと、憎悪的なコメントはまるで存在しなかったかのように表示されます。
このアプリは現在、Twitter、YouTube、Instagram、Twitchをサポートしています。残念ながら、APIの制限により、SnapchatとTikTokのコンテンツは処理できません。
ほとんどのモデレーションサービスは、裏では機械学習やキーワードベースのモデレーションに大きく依存しています。Bodyguardは異なるアプローチを採用しています。アルゴリズムを用いてコメントをクリーンアップし、コメントの内容を文脈に沿って分析します。コメントがあなた、第三者、あるいはグループなどにとって不快なものかどうかを判断できます。
最近、このスタートアップはB2B製品をリリースしました。BodyguardのAPIを利用することで、他の企業は自社のソーシャルプラットフォームや自社アプリ上でリアルタイムにコメントをモデレートできます。同社は従来型のSaaS（Software as a Service）アプローチで顧客に課金しています。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
フェイスブックの監督委員会はトランプ氏のアカウント停止決定を再検討する
トピック
ロマン・ディレットは2025年4月までTechCrunchのシニアレポーターを務めていました。テクノロジーとテクノロジー系スタートアップに関する3,500本以上の記事を執筆し、ヨーロッパのテクノロジーシーンで影響力のある人物としての地位を確立しています。スタートアップ、AI、フィンテック、プライバシー、セキュリティ、ブロックチェーン、モバイル、ソーシャルメディア、メディアにおいて深い知識を持っています。TechCrunchで13年の経験を持つ彼は、シリコンバレーとテクノロジー業界を熱心に取材する同誌のお馴染みの顔です。彼のキャリアは21歳のときからTechCrunchでスタートしています。パリを拠点とする彼は、テクノロジー業界の多くの人々から、街で最も知識豊富なテクノロジージャーナリストとみなされています。ロマンは、誰よりも早く重要なスタートアップを見つけるのを好みます。Revolut、Alan、N26を取材した最初の人物でもあります。Apple、Microsoft、Snapによる大型買収に関するスクープ記事も執筆しています。執筆活動をしていない時は、開発者としても活動しており、テクノロジーの背後にある仕組みを理解しています。彼は過去50年間のコンピュータ業界に関する深い歴史的知識も有しています。イノベーションと社会構造への影響を結びつける方法を熟知しています。ロマンは、起業家精神を専門とするフランスの名門ビジネススクール、エムリヨン・ビジネススクールを卒業しています。テクノロジー分野で女性の教育とエンパワーメントを推進するStartHerや、テクノロジーで難民のエンパワーメントを支援するTechfugeesなど、複数の非営利団体を支援してきました。
バイオを見る
