今月、ChatGPT は 4o モデルの一部として、画像内のテキスト生成能力が大幅に向上した新しい画像ジェネレータを発表しました。
すでに人々は偽のレストランの領収書を生成するためにこれを使用しており、詐欺師が使用する AI ディープフェイクのすでに広範なツールキットに新たなツールが追加される可能性があります。
ソーシャルメディアで活躍する投稿者でありベンチャーキャピタルでもあるディーディー・ダス氏は、X に、4o で作成したというサンフランシスコの（実在する）ステーキハウスの偽の領収書の写真を投稿しました。
— ディーディ（@deedydas）2025年3月29日4o を使用して偽の領収書を生成することができます。
現実世界では「実画像」を証拠として頼りにする検証フローが多すぎます。そんな時代は終わりました。pic.twitter.com/9FORS1PWsb
他の人も同様の結果を再現することができ、食べ物や飲み物のシミを付けてさらに本物らしく見せることもできました。
元の画像では文字が完璧すぎて、紙に沿って曲がらないように思います。紙の上に浮かんでいるように見えます。よりリアルにするために試してみたのがこれです。感想をお聞かせください。 pic.twitter.com/EixRSHubeY
— マイケル・ゴフマン (@michaelgofman) 2025 年 3 月 29 日
TechCrunchが見つけた最も本物らしい例は実はフランスのもので、LinkedInのユーザーが地元のレストランチェーンのしわくちゃのAI生成レシートを投稿した。
TechCrunch は 4o をテストし、サンフランシスコの Applebee's の偽のレシートを生成することにも成功しました。
しかし、私たちの試みには、偽造されたことを示す決定的な証拠がいくつかありました。まず、合計の部分にピリオドではなくコンマが使われていました。さらに、計算が合っていませんでした。法学修士課程の学生は基本的な計算さえ苦手なので、これは特に驚くべきことではありません。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
しかし、詐欺師が写真編集ソフトウェア、あるいはより正確なプロンプトを使って、いくつかの数字を素早く修正するのは難しくないでしょう。
偽の領収書を簡単に作成できるということは、詐欺の大きなチャンスとなることは明らかです。悪意のある人物が、このような技術を利用して、全くの偽の経費を「払い戻し」してもらうことは容易に想像できます。
OpenAIの広報担当者タヤ・クリスチャンソン氏は、TechCrunchに対し、すべての画像にChatGPTによって作成されたことを示すメタデータが含まれていると述べた。クリスチャンソン氏はさらに、ユーザーが利用ポリシーに違反した場合、OpenAIは「措置を講じる」と述べ、実際の使用状況やフィードバックから「常に学習」していると付け加えた。
TechCrunchはその後、ChatGPTがそもそもなぜ偽の領収書の作成を許可しているのか、そしてこれがOpenAIの使用ポリシー（詐欺を禁止している）に沿っているのかどうかを質問した。
クリスチャンソン氏は、OpenAIの「目標はユーザーに可能な限りの創造の自由を与えること」であり、偽のAI領収書は、オリジナルのアートや製品広告の作成に加えて、「人々に金融リテラシーを教える」などの詐欺以外の状況で使用できると答えた。
トピック
チャールズ・ロレットはTechCrunchのシニアレポーターです。彼の調査報道は、中国最大のAI企業を含む4つのテクノロジー企業に対する米国政府の制裁につながりました。TechCrunch入社前は、IPVMで監視業界を担当していました。サンフランシスコを拠点とし、愛犬とのハイキングを楽しんでいます。Charlesへの連絡は、Signal（charlesrollet.12 または +1-628-282-2811）で安全に行えます。
バイオを見る
