今週、数年ぶりに元同僚から連絡がありました。ジェレミーと名付けましょう。彼は、私が鮮明に覚えているある出来事について触れた、素敵なメールをくれました。私の健康状態を尋ね、最近肺炎にかかっていたことを知ったと話してくれました。彼は自分の生活について少し話した後、全く必要のないコンサルティングサービスを売りつけようとしました。
このやり取りには奇妙な点が3つありました。まず、この人の文章スタイルはよく知っているし、そして、まあ、彼は寡黙な人です。このメールは、これまで彼から受け取った多くのメールよりもずっと雄弁でした。それから、突然彼からメールが届いたのも少し奇妙でした。私たちは決して友達ではありませんでしたが、月に数回コーヒーを飲みながら仲良くしていた仲良しの同僚でした。そして最後に、ジェレミーの方がもっと詳しいはずなのに、売り込みをかけられたのも奇妙でした。私はジャーナリストでありコンサルタントであり、アウトソーシングによるソフトウェア開発など全く必要としていないのです。
このメールを二度読んだ後、何が起こったのか理解できました。ジェレミーは、AI搭載のライティングツールを使ってメールを書いていたのです。そのツールは十分に優れていたので、すぐには気づきませんでした。しかも、このツールは私のTwitterやその他の公開データソースを読み取って、私の人生で何が起こっているのかを描き出していたようで、さらに理解に苦しみました。
そのとき、セールスメール、フィッシング、スパムがまったく新しいレベルに到達しようとしていることがはっきりと分かりました。
そしてそれは非常に理にかなっています。
人工知能（AI）は進化を続け、人間らしい文章を生成する能力を高めています。これは、ぎこちない言い回しや露骨なセールストークでスパムメールだと簡単に見分けられる時代は終わりつつあることを意味します。AI、特に生成型AIが、人間が書いたものと見分けがつかないほど説得力のあるパーソナライズされたメールを作成できる時代へと向かっています。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
生成AIは、機械学習アルゴリズムを用いて大量のデータを分析し、人間の言語のパターン、文脈、ニュアンスを理解します。そして、この理解に基づいて、人間の文章スタイルを模倣した、新しく独創的なコンテンツを生成します。これには、口調、具体的な言い回し、口語表現の使用に至るまで、あらゆる要素が含まれており、生成されたテキストは非常に本物らしく感じられます。
スパムメールという文脈で言えば、ジェレミーから受け取ったメールは特に厄介なものでした。AIは、昔の同僚や友人など、よく知っている相手からのメールを偽装することがありますし、実際にそうすることがよくあります。
このレベルのパーソナライゼーションと信憑性により、スパムメールの説得力は格段に高まり、受信者がコンテンツに関心を持つ可能性が高まります。また、スパムメールに通常見られる明らかな兆候がないため、スパムフィルターによる検出が困難になる可能性もあります。
驚いたことに、ジェレミーに連絡したところ、メールを送っていないと言われました。私が受け取ったメールを転送したところ、彼は完全に困惑していました。そして、あることに気づきました。メール内の詳細情報へのリンクは、ジェレミーとは全く関係のない会社へのリンクでした。メール自体は、ジェレミーが使ったことがないというGmailアドレスから送信されていました。つまり、これはスパムでしたが、ここ最近で見た中で最も洗練されたスパムでした。
私もびっくりしました！何かがおかしいとは思っていたものの、何がおかしいのかよく分かりませんでした。もし私がもう少し油断していたら、間違いなく騙されていたでしょうし、私の周りにもテクノロジーにあまり詳しくない人が何人かいたでしょう。もちろん、関係のないサービスを売りつけようとするくらいなら、どうにかなるでしょう。でも、もしこれがもっと悪質な詐欺だったらどうでしょう？そういう詐欺はたくさんあり、特に退職者が狙われやすいです。2017年の調査によると、高齢者の5.4%が詐欺の被害に遭っているそうです。これは18人に1人の割合です。AIがより高度化していくにつれて、この数字が減ることは想像しにくいでしょう。
生成AIは幅広い応用分野に計り知れない可能性を秘めていますが、説得力のあるスパムメール（そして本物らしく偽ニュース）を作成できるという点が、オンラインの安全とセキュリティを確保するために解決すべき大きな課題となっています。解決策の一つは教育、つまり詐欺に引っかからないように注意すべき点を人々に教えることです。しかし、テクノロジー業界はインターネットが登場して以来ずっと、テクノロジーにあまり精通していない人々を教育しようと努めてきましたが、これまでのところ、その成果はせいぜい中程度のものです。解決策のもう一つの要素はテクノロジーです。AIスパムを阻止するために構築されているAIは、高速で動作し続ける必要があります。
一言で言えば、スパム軽減に携わる人にとっては事態がずっと興味深いものになり、少なくとも短期的には、スパマーは有利なスタートを切るとともに勝利への動機もより強くなったということです。
受信トレイに注意してください。そして、より安全に過ごす方法について友人や家族と話し合ってください。
TechCrunchでは、Haje（彼/彼）はテクノロジー全般のニュースをカバーし、主にハードウェアに焦点を当てていました。彼は様々な成功を収めた企業を複数設立し、ベンチャーキャピタル業界での経験を経て、キャリア初期からジャーナリストやテレビプロデューサーとして活躍しています。写真撮影には並々ならぬ興味を持ち、カメラを肩に担いでいる姿をよく見かけます。スタートアップ企業の投資家へのピッチングに関する著書も執筆しており、Twitterでは@Haje、その他の情報はHaje.meでご覧いただけます。
バイオを見る
