インドは倫理的な懸念からディープフェイクの規制を目指す

インドは、ここ数週間ソーシャルメディアプラットフォーム上でディープフェイクコンテンツやその他の有害なAIメディアが急増しているとの報告を受け、ディープフェイクコンテンツやその他の有害なAIメディアの拡散を検出し制限するための規則を起草中であると、上級議員が木曜日に明らかにした。

インドのIT大臣アシュウィニ・バイシュナウ氏は、同省が同日早朝、すべての大手ソーシャルメディア企業、業界団体ナスコム、学識者らと会合し、ディープフェイク動画やその作成を助長するアプリの拡散に対抗するためには規制が必要だとの合意に達したと述べた。

「企業側も私たちと同じ懸念を抱いており、ディープフェイクは言論の自由ではないことを理解しています。社会にとって非常に有害なものだと理解しています」と彼は述べた。「彼らは、これに対するより厳しい規制の必要性を理解しています。そのため、本日中に規制案の草案作成に着手することで合意しました。」

同氏は、省は10日以内にディープフェイク対策に関する「明確で実行可能な事項」を準備する予定だと述べ、さらに、遵守しない者への罰金と、そのような動画を作成した個人への責任追及も検討していると付け加えた。ソーシャルメディア企業は、この問題について12月上旬に省とフォローアップ会議を行う予定だと同氏は述べた。

ディープフェイクとは、多くの場合AIを用いて合成生成され、人物の肖像や声をリアルに置き換えるメディアです。時に面白い反面、同意や誤情報の可能性といった倫理的な懸念がつきまといます。IT省の今回の動きは、インドのナレンドラ・モディ首相が先週、ディープフェイク動画への懸念を表明したことを受けてのものです。

「ディープフェイクは、いかなるチェックもなしに、はるかに急速に拡散し、アップロードから数分で急速に広まっています。だからこそ、社会の信頼を強化し、民主主義を守るために、緊急に対策を講じる必要があります」とヴァイシュナウ氏は記者会見で述べ、インドの著名な大臣が国民に野党への投票を訴えるディープフェイク動画が流れた事件を振り返った。

ヴァイシュナウ氏は、新規制では、個人がそのような動画を報告するための報告メカニズムの強化や、ソーシャルメディア企業による積極的かつタイムリーな対応にも重点を置くと述べた。