注意：医療画像をAIチャットボットにアップロードしないでください

一日を始める前に、次の点に注意してください。個人の医療データを AI チャットボットにアップロードする前に、よく考えてください。

人々は、OpenAIのChatGPTやGoogleのGeminiといった生成型AIチャットボットに医療的な懸念事項について質問したり、健康状態をより深く理解したりするために頻繁に利用しています。中には、例えばAIを使って性器に病気がないかどうかを判断するような、疑わしいアプリに頼っている人もいます。そして最近では、10月からソーシャルメディアサイト「X」のユーザーに、結果の解釈を助けるために、プラットフォームのAIチャットボット「Grok」にX線写真、MRI、PETスキャン画像をアップロードするよう促しています。

医療データは連邦政府の保護下にある特別なカテゴリーであり、ほとんどの場合、回避できるのは本人だけです。しかし、回避できるからといって、回避すべきというわけではありません。セキュリティとプライバシーの擁護者たちは、アップロードされた機密データはAIモデルの学習に使用され、将来的に個人情報や機密情報が漏洩するリスクがあると、長年警告してきました。 

生成AIモデルは、アップロードされたデータがモデルの出力の精度と情報の構築に役立つという前提の下、受信したデータに基づいて学習されることが多い。しかし、アップロードされたデータがどのように、どのような目的で使用されているのか、また誰と共有されているのかは必ずしも明確ではない。また、企業が方針を変更する可能性もある。そのため、企業の言葉をほぼそのまま信じる必要がある。

AIトレーニングデータセットの中に、個人の医療記録が発見された事例があります。つまり、医療提供者、将来の雇用主、政府機関など、誰でもそのデータを見つける可能性があるということです。また、ほとんどの消費者向けアプリは米国の医療プライバシー保護法HIPAAの対象外であり、アップロードされたデータに対する保護は提供されていません。 

Xのオーナーであるイーロン・マスク氏は、ユーザーにGrokへの医療画像のアップロードを促した投稿で、Grokの結果は「まだ初期段階」だと認めつつも、AIモデルは「非常に優れたものになるだろう」と述べた。ユーザーにGrokへの医療画像の提出を求めることで、AIモデルは時間とともに改善し、医療スキャン画像を一貫した精度で解釈できるようになることを目指している。Grokのデータに誰がアクセスできるのかは明確ではない。Grokのプライバシーポリシーには、Xが一部ユーザーの個人情報を不特定多数の「関連」企業と共有すると記載されている。

インターネット上で起こったことは決してインターネット外に出ないということを覚えておくとよいでしょう。