ソーシャルメディアにおける様々な形態のオンライン虐待は、昨今、かつてないほど注目を集めています。激しい憎悪に満ちた言葉は、個人に直接的な害を及ぼすだけでなく、ヘイトグループやその他の過激派の炎を煽り、オフラインでもさらに強い（そしてしばしば悲劇的な）反応を誘発する恐れがあります。本日、Sentropyというスタートアップ企業が、AIベースのプラットフォームを通じて、オンライン虐待を特定、追跡、そして最終的には根絶するための、これまでで最も洗練されながらも導入が容易なシステムを開発したと自負し、この問題に取り組むために事業を開始しました。
Sentropy の背景にあるアイデアは、技術的なものであると同時に哲学的な側面も持ち合わせています。Michele Banko、Taylor Rhyne、Ethan Breder とともにこのスタートアップを共同設立した CEO の John Redgrave 氏は、非構造化データを操作して「読み取る」方法に関する彼と共同設立者の知識を活用し、最終的に真剣に受け止める必要のあるオンライン虐待に応用することが目的だと述べています。
「毎週、オンライン上の会話が現実世界に与える影響を目の当たりにしていました」と彼はインタビューで語った。「それらは永続的な影響を与えていました。URLと現実世界の間には繋がりがあります。若い世代にとって、デジタル上の自分と現実世界の自分は区別がつかないでしょう。それは大きな力となる一方で、問題も抱えています。」
このスタートアップは、非常に著名な支援者から1,300万ドルの資金を調達し、ステルスモードから脱却しようとしている。支援者には、Redditの共同創業者であるアレクシス・オハニアン氏、同氏のベンチャーキャピタル会社 Initialized Capital、King River Capital、Horizons Ventures、Playground Global、Riot Games、Nextdoor、OpenAI、Twitch、Twitterの創業者や幹部、そして「元政府高官」（氏名は非公開）などが含まれている。
Sentropyは本日、公式に発表されましたが、実際には既に活動を開始しており、6月からプライベートベータ版として多くのテクノロジー企業と連携し、最初の製品であるAPIベースの不正利用検知エンジン「Defend」を開発してきました。このエンジンはまもなく一般提供版としてリリースされ、すぐに使える「Detect」もリリースされます。Redgrave氏はこれまでどのテクノロジー企業と提携してきたかは明らかにしていませんが、注目すべきは、つい先週までOhanian氏がRedditの取締役を務めており、Redditとの戦略的提携において明らかに重要な役割を担っていたことです。そして言うまでもなく、RedditはSentropyが取り組んでいるような不正利用に直面しているプラットフォームの好例です。
「オンラインコミュニティを手動でモデレートすることの難しさを目の当たりにしてきました」とオハニアン氏は声明で述べています。「この問題の広範さと深刻さには、多大なリソースと機械学習の能力が必要です。Sentropyは、ソーシャルメディアコミュニティ全体で非常に必要とされている技術を構築しました。ユーザーの安全性は、不正行為に対抗する意思のある企業にとって、競争上の差別化要因となっています。」
Sentropyが製品に早くから強い関心を集めたもう一つの理由は、創業者の実績にあると言えるでしょう。彼らの前身であるLattice Dataは、目的は異なっていたものの、非構造化データやダークデータといったより広範な分野を専門としていました。同社は2017年にAppleに買収され、現在のチームメンバーの何人かは売却後もAppleで働いています。レッドグレイブ氏によると、オンライン虐待を非構造化データの問題として扱うというアイデアは、Latticeがまだスタートアップだった頃から着目されていたものの、そこで独自に開発したものではありませんでした。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
Sentropyは、開発者が実装・カスタマイズできるAPIベースの製品として、また、オンラインコミュニティの管理にすぐに使用できる製品として販売されており、それぞれDetectとDefendというブランド名で販売されています。現在のところ、どちらの実装も、それぞれのプラットフォームにおけるモデレーションの判断を人間が最終的に行うためのツールを提供することを基盤としていますが、将来的には、より多くの作業を自動化するサービスが追加される可能性があります。
レッドグレイブ氏は、今日、オンラインでの嫌がらせへの対処、そしてそれを抑制・抑制しようとする取り組みには、多くの問題があると指摘した。人気サイトへのコメントの膨大な量により、人間によるトリアージは非常に複雑になり、事実上克服不可能な（そしてそれ自体が潜在的に有害な）作業となっている。一方、キーワードやフレーズを自動化・フラグ付けする既存のシステムの多くは、適切なものを確実に捕捉できるほど洗練されていないことが多い。これは問題に多少の影響を与えているものの、実際にはオンラインハラスメントの約75%が報告されていないと、同社はピュー・リサーチ・センターを引用して述べている。
ライン氏によると、このサービスの基盤となる「頭脳」は、オープンウェブ、グレーウェブ、ダークウェブから膨大なページ数に及ぶ会話を取り込むことで構築されたという。AIシステムとして当然のことながら、Sentropyは特定の顧客がどのようにSentropyを利用しているかを「学習」し、顧客に適応していく。そして、その学習結果はより大きな頭脳へとフィードバックされ、継続的に学習していく。（もちろん、Sentropyが膨大なデータを解析し、より「インテリジェント」な読み取りを実現している点が、このサービスの秘密なのだ。）
この分野では大きな進歩を遂げているものの、今後多くの疑問や未開拓の領域に対処していく必要がありそうです。例えば、Sentropyはテキストに焦点を絞ってスタートを切りました。現時点では、音声や動画コンテンツを解析する製品は存在しません。Sentropyのアルゴリズムで「読み取る」ためには、現在では文字起こしツールを通す必要があります。動画アプリの普及、YouTubeなどのサイト、Facebookなどの他のプラットフォームでの動画の人気を考えると、Sentropyは今後、この分野に真剣に取り組む必要があるでしょう。
同様に、サイトが特定の用語に関してどの程度カスタマイズを行うべきか、そしてそれがいつかどのように、そして本当に悪用される可能性があるのかについても、依然として疑問が残ります。Rhyne氏は、例えば、現時点ではSentropyが用語を決定することで、それ自体が悪用され、政治的検閲の道具として利用されることがないようにしていると指摘しています。もちろん、これは普遍的に何が「正しい」のか、何が「間違っている」のかという興味深い疑問を提起します。
「顧客を選ぶ権利はあります」とレッドグレイブ氏は述べた。「オープンソース技術ではないので、顧客は私たちとやり取りし、具体的なユースケースを学ぶことになります。」
イングリッドは、2012 年 2 月から 2025 年 5 月まで、ロンドンを拠点に TechCrunch のライター兼編集者として活躍しました。
TechCrunch以前、イングリッドはpaidContent.orgでスタッフライターとして勤務し、過去にはFinancial Timesなど他の出版物にもフリーランスとして定期的に記事を執筆していました。イングリッドは、モバイル、デジタルメディア、広告、そしてそれらが交差する分野を専門としています。
仕事に関しては、彼女は英語で話すのが一番快適だと感じていますが、ロシア語、スペイン語、フランス語も話せます（能力の高い順に）。
バイオを見る