DoorDashの新しいAI搭載ツール「SafeChat+」は、言葉による虐待を自動的に検出します。

DoorDash は、不快な言葉を自動的に検出する新しい AI 搭載機能により、消費者と配達員の間の暴言や不適切なやり取りを減らしたいと考えています。

DoorDashは「SafeChat+」と呼ばれるAI技術を活用し、アプリ内の会話を精査し、顧客または配達員が嫌がらせを受けているかどうかを判断します。状況に応じて、インシデントを報告するオプションが提供され、顧客の場合はDoorDashのサポートチームに連絡し、配達員の場合は注文をすぐにキャンセルすることができます。ドライバーが嫌がらせを受けた場合、評価に影響を与えることなく配達をキャンセルできます。また、DoorDashはユーザーに不適切な言葉遣いを控えるよう警告を送信します。

同社によると、このAIは1分間に1,400件以上のメッセージを分析し、英語、フランス語、スペイン語、ポルトガル語、中国語など「数十」の言語をカバーしているという。チームメンバーは、AIが認識したすべてのインシデントを調査する予定だ。

この機能はSafeChatのアップグレード版です。SafeChatでは、DoorDashのTrust & Safetyチームが手動でチャット内の暴言をスクリーニングしています。同社はTechCrunchに対し、SafeChat+は「SafeChatと同じコンセプトですが、より優れた、より洗練されたテクノロジーを採用しています。特定のキーワードに一致しない微妙なニュアンスや脅威も理解できます」と述べています。

DoorDashは、「当社のプラットフォームにおける安全上のインシデントの中で、暴言やハラスメントが最も多く発生していることを認識しています。この機能を導入することで、プラットフォーム上のインシデント発生件数をさらに大幅に削減できると考えています」と付け加えています。

DoorDashは、同社のプラットフォーム上での配達の99.99%以上が安全関連の事故なく完了していると主張している。

このプラットフォームには、ダッシャーとADTエージェントを結び付けるアプリ内ツールキット「SafeDash」もあり、緊急時には位置情報やその他の情報を911サービスと共有できます。