技術伝道師ナシュリー・セファス博士が、そのやり方を語る
BCGとMITスローンスクールによる最近の報告書によると、公正で責任ある、そして正確なAIの導入は、多くの企業にとって経営上の最優先事項となっています。しかし、責任あるAIプログラムを導入していると回答した企業はわずか52%にとどまっています。さらに、そのうち79%は、自社が望むような完全に導入されたプログラムではないと回答しています。
企業は責任あるAIプログラムの構築をどのように進めることができるでしょうか？多くの企業にとって、教育はパズルの重要なピースです。知識が深まるほど、より良いものを構築できます。
「私たちと同様に、お客様も責任あるAIの実現に尽力しています」と、スタートアップ企業の元CTOでAIスペシャリストであり、現在はAWSのテクニカルエバンジェリストとして「教育と意識向上に尽力しています」と語るナシュリー・セファス博士。彼女はエンジニアリング、科学、製品、法務、政策といった分野の専門家グループと共に、「機械学習の責任ある利用ガイド」の策定に携わりました。このガイドは、企業が機械学習ライフサイクルの3つの主要フェーズ（設計・開発、導入、運用）を通じて、責任ある機械学習（ML）システムの開発と運用を支援します。
AIの責任ある利用とは何かと問われれば、セファス博士はそれを、公平性とバイアス、説明可能性、プライバシーとセキュリティ、堅牢性、ガバナンス、透明性を含む包括的な概念だと説明するでしょう。「これらの要素はすべて、テクノロジーが善をもたらすか悪をもたらすかに大きな影響を与える可能性があります」とセファス博士は説明します。多くの企業がプライバシーとセキュリティから着手し、一つずつ解決していく中で、セファス博士は、顧客の信頼を築く上で、公平性と透明性はデータの安全性確保と同じくらい強力であると指摘します。
セファス博士は、自身の会社であるPartpicの買収をきっかけにAWSに入社しました。Partpicは、ボルト、ネジ、ナット、ファスナーなどの特定の工業部品をスマートフォンのカメラアプリで検索し、カタログから適切な部品を注文できる画像認識テクノロジーのスタートアップ企業です。データライフサイクル全体にわたるAIの専門知識と、南部出身の黒人女性としての実体験により、彼女は深く繊細な洞察力を備えています。公平性とバイアス検出へのこだわりは、長年にわたる製品開発で培ってきたものです。
大学院進学前のインターンシップで、セファス博士はBluetooth対応カーラジオ向けアプリケーションの開発チームに所属していました。「テストはいつも私の声で行っていましたが、南部訛りのせいで6という数字をうまく発音できませんでした。」これが、すべての人に役立つAI開発が複雑なプロセスになり得ることを彼女が初めて知ったきっかけの一つでした。
セファス博士は、顔認識を可能にするAIサービスであるAmazon Rekognitionなど、 AWSのAIおよびMLサービスのテストと監査に携わったAWSエンジニアリングチームと協力しました。チームはAWSサービスの構築に包括的なアプローチを取り、潜在的なバイアスや精度に配慮することで、すべての人にメリットをもたらす製品を開発しました。このプロセスを通して、セファス博士は「技術開発者として、そして消費者として、AIの複雑さと文化を理解している者として、非常に高く評価されている」と感じました。
「そのプロジェクトに取り組んでいるときに、自分の目的を見つけたのです」とセファス博士は言います。
セファス博士の現在の使命は、AWSのお客様がAIにおける公平性とバイアス検出についてより容易に理解できるようにし、Amazonが現在そして将来にわたって機械学習とAIを責任ある形で活用するためのアプローチを支援することです。データライフサイクルのあらゆる段階でバイアスが製品開発に入り込む可能性があるため、セファス博士はあらゆる段階で公平性とバイアスの視点を取り入れることを推奨しています。博士は、開発チームがAIを活用した新しい製品を構築する際に、常に問いかけることを推奨する4つの質問を紹介します。
- あなたのチームは多様性に富んでいますか？多様性のあるチームは、AIの設計と開発において、より多くの視点をテーブルに持ち込み、公平性を促進し、バイアスを軽減するのに役立ちます。企業が既に多様性のある人材に投資していない場合、多様な人材の発掘や育成には、事前に余分な時間がかかる可能性があります。セファス博士は、その努力は十分に価値があるとアドバイスしています。「テクノロジーの未来はインクルーシブです」と彼女は言います。「そして、解決策に貢献できる非常に特別な人々がいます。彼らをテーブルに招き入れましょう。」
- 注釈者は、存在する可能性のあるバイアスについてトレーニングを受けていますか？また、注釈者チームには十分な人数がいますか？注釈者は1人よりも複数人いる方が効果的であり、明確な基準は必須です。例えば、異なる文化圏の注釈者がウェディングドレスにラベルを付けているとします。ある人にとって適切なウェディングドレスが、別の人にとっては必ずしも適切とは限りません。無意識のバイアスにつながる文化的背景、思い込み、好みは、一見無害に見える決定さえも左右する可能性があります。そのため、注釈者にラベルの定義についてトレーニングを行い、注釈者チームに適切な人数を揃えることが重要です。
- モデルデータはまだ関連性がありますか？「機械学習のライフサイクルは、フライホイールのように常に動いています」とセファス博士は言います。「多くの場合、モデルのトレーニングに使用した履歴データは進化し、成長していきます。モデルが展開される環境が変化することもあります。『このデータは時間の経過とともに依然として関連性があるだろうか？』と常に自問自答する必要があります。」
- モデルの挙動を説明またはレビューする際に、その予測に至った経緯を説明できますか？例えば、自動運転モデルが赤い車を遅い車と分類したとします。これは、データセット内の赤い車の数が相対的に少なく、赤い車の速度が遅かったためです。「モデルがどのようにしてその予測に至ったのかを説明できることが重要です」とセファス博士はアドバイスします。「そして、常に『その予測は合理的か？』と自問自答してください。」
セファス博士は、企業が責任ある基準を満たしていることを確認するための規制が世界中でますます施行される中で、ML モデル開発の過程ですでにこれらの質問とチェックポイントを実施している企業は、競争上の優位性を確立していると述べています。
「特にスタートアップ企業が競争優位性を獲得したいのであれば、他社との差別化要因を考える必要があります」とセファス博士は指摘します。「より公平で公正、そして透明性のある機械学習システムを構築することで、そうでない企業よりもはるかに優位に立つことができます。今すぐ始めてみてはいかがでしょうか？」
ナシュリー・H・セファス博士について
ナシュリー・H・セファス博士は、AWSのプリンシパルテックエバンジェリストです。以前はアトランタでAWSビジュアルサーチチームを率いていました。ミシシッピ州立大学でコンピュータエンジニアリングの学士号を取得し、ジョージア工科大学電気・コンピュータ工学部で博士号を取得しました。AWSでの業務に加え、故郷のミシシッピ州ジャクソンを拠点とする非営利団体「The Bean Path」の創設者兼CEOも務めています。The Bean Pathは、地域社会における技術ギャップを埋めるために、技術的な専門知識とガイダンスを提供する支援を行っています。
