インターネット上で、本当に恐ろしい出来事が起こっています。それは、シンプルな3幕構成で、私たちの目の前で繰り広げられるホラーストーリーです。
1993年当時、私たちはこんなジョークを飛ばしていました。「スクリーンネームを使えば誰でも隠れられるけど、一体どこまで悪質なんだろう？」と。もしかしたら、もうすぐその真相が明らかになるかもしれません。
AI技術の進歩は目覚ましく、つい最近、自分もAIなのではないかと、ちょっとした実存的危機に陥りました。インターネット上では、何が現実で何がそうでないのか、人々は全く分かっていません。2024年の大統領選挙が迫る中、私たちは破滅への道を歩み始めています。
私たちは今、あまりにも深く交尾しすぎていて、脱出は不可能かもしれない。コーヒーを一杯淹れて、深呼吸しよう。これは決して楽なことではない。
メディアリテラシー
メディアリテラシーに関して言えば、私は新しい有権者のことを心配しているわけではないことをはっきりさせておきたい。2005年生まれの人々は、インターネット以前の世界を知らない。彼らはスクリーンとニュースに対する健全な懐疑心とともに育ち、幼稚園児でさえメディアリテラシーを教えられているのだ。
しかし、年齢による差があります。成人の46%が、ニュース記事の偏りや信頼性を評価する方法を教えられたことがないと回答しています。こうしたメディアリテラシーの欠如は、物事のレビューを探している人が、自分が何を探しているのかを本当に理解していないことを意味し、信用できない情報源を見つけても、それを見抜けない人が多いのです。
長い間、この問題に実際に遭遇したのはアフィリエイトマーケティングの分野だけでした。例えば、最近旅行に持っていくトランシーバーを探していたところ、トランシーバーガイドというサイトを見つけました。そこには何百もの「レビュー」が掲載されており、AIか、あるいはこれらの製品を全く触ったことのない下手なコピーライターが書いたものばかりです。レビューは苛立たしく、読みにくく、ほとんど意味をなさない上に、最も重要なのは、例えばAmazonへのリンクをクリックするとサイトに収益が入るという点です。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
こうしたクリックベイトサイトは長年存在していますが、問題は常に言葉にあります。Amazon から収集できる情報だけに基づいて 5,000 件の製品レビューを作成し、その情報源である Amazon にリンクを貼るだけの意欲的なコンテンツ作成者を見つけるのは難しいのです。
これをOutdoor Gear Labと比較してみましょう。このサイトでは、すべてのラジオの写真が並んで掲載されており、レビューには実際に使用している人の写真が掲載されています。また、このサイトは定期的にコンテンツを更新しているようですが、これは理にかなっています。コンテンツが新鮮であれば、人々はそれを信頼し、リンクをクリックして商品を購入し、アフィリエイト収入を得る可能性が高くなります。
問題は、何を探すべきかを知っていて、それを探し始めると、このタイプのサイトはどこにでも見つかるということです。これは、SEO 詐欺師が期限切れのドメインを買い占めていることについて私が 1 年前に書いた記事と重なります。ある人たちは、何千もの記事を含むサイトを何十も Web 上に立ち上げ、Google がトラフィックを送る程度にカスタマイズし、それがクリックされて誰かが購入し、アフィリエイト報酬を得るという仕組みです。
しかし、物事の全体像、特にこの記事を見ると、誰かが誤って2番目に良い製品ではなく9番目に良い製品を買ってしまったとしても、誰が気にするでしょうか？確かに、深刻な環境への影響は考慮する必要があるかもしれません（例えば、性能の悪い製品は返品や修理がされずに、最終的に埋め立て地に捨てられてしまうことが多い）。しかし、それはさておき、状況はさらに悪化します…
政治
メディアの世界は長らく、政治的な思惑を持つプレイヤーで溢れかえっています。そこで問題となるのは、2020年の大統領選挙とCOVID-19をめぐる激しいニュースサイクルにおいて、部分的に真実であるニュース、あるいは完全に捏造されたニュースが急増したことです。ある研究論文は、「グローバルコミュニケーションの時代において、一つの誤った考えが瞬時に多くの脆弱な耳に広まる可能性がある中で、誤情報は極めて破壊的な力を持つ」と結論づけています。
疑わしいレビュー サイトを使えば、何人かの人を騙して 1 つか 2 つの製品を買わせ、1 ドルか 80 億ドルを儲けることができるかもしれませんが、少なくとも文明の未来を変えることはできません。
フェイクニュースの潜在的な影響は壊滅的です。人々が真実と偽りの区別がつかず、Facebookで友人や家族と誤ったニュースを共有すると、人々の行動に目に見える変化が起こります。それが2020年の選挙結果を覆そうとする数々の試みにつながり、下院特別委員会の報告書が「1月6日の選挙に関わった多くの人々が、過去の出来事やソーシャルメディアによって繰り返し強化された2020年の選挙に関する虚偽の情報に煽られて行動を起こした」と結論付けたのを私たちは目の当たりにしました。
横糸。
外国政府が支援するハッカーが、金銭の窃盗（昨年の5億ドルのAxie強盗やその他にも多数）や中国拠点のハッカーによるジャーナリスト攻撃、そしておそらくロシアが支援する米国政府機関を狙った一連のランサムウェアやハッキングなど、深刻な攻撃に関与しているとされてきたことも、事態を悪化させている。
それは2020年のことでした。それから何が起こったかご存知ですか？AI。それで、私が本当に怖いと思うことについて話します…
こんにちは、コンピューター
直近の米国大統領選挙以降、いくつかの分野で驚異的な進歩が見られました。中でも、生成AIは最も活発な開発分野の一つです。企業は時代遅れになることを恐れ、数十億ドルもの資金を研究開発に投入しており、ベンチャーキャピタルも資金繰りに窮する中で、この競争に参入しました。
その後に起こった出来事は驚異的だった。AIにおける数十もの技術革新が起こり、言語モデルはそれ以前のものよりも桁違いに複雑になった。AIは音楽や完全自動音声広告を作成し、プレイヤで埃っぽいヒッピーたちが繰り広げる恐ろしいほど正確な動画も作成できる。最高の検出方法でさえ役に立たず、人間の指で書かれたものなのか、それともふわふわしたロボットの雲で書かれたものなのかを確実に判別することはできない。
GPT-4のような高度なAIモデルの力を活用すれば、数百万ものニュース記事を生成し、メディア業界に革命を起こすことは可能です。これらのインテリジェントマシンは、かつてない規模とスピードで、一貫性があり文脈に適したコンテンツを作成できます。適切なパラメータとデータセットがあれば、無数のトピックに関する記事を効率的に量産できます。しかし、その優れた技術力にもかかわらず、AI駆動型記事は、関連性、正確性、そしてジャーナリズム倫理基準への準拠を保証するために、依然として人間の監督が必要です。この進歩はコンテンツ制作における大きな飛躍を意味しますが、同時に、バランスの取れた活用と厳重な監視も求められます。
なぜそう言えるのか？それは、上記の段落の大部分がGPT-4によって書かれたからだ。一言も文句は言えない。ただし、本当に騙そうとしているなら、倫理に関する部分は削除するだろう。原文は以下の通り：
これが現実世界にどのような影響を与えているかを示す例は既に数多く見受けられます。今週初めには、ペンタゴンの爆発をAIが撮影した画像が公開され、真実が明らかになる前に金融市場は一時パニックに陥りました。
本当に恐怖を感じたのは久しぶりですが、上記の 3 つのことが組み合わさって、まさに恐怖を感じました。
完璧な嵐
では、メディアをまったく信用しない人が 40% 近く、そもそも偽のニュースと「本当の」ニュースの区別がつかない人が 75% いる世代が、汚い戦いをいとわない大統領選挙を控え、人間が消費できる以上のコンテンツを AI が生成できるようになったときに、何が起こるでしょうか。
これは本当に良い結末にはならないだろう。そして、何か「良い結末にはならない」ことがあまりにも頻繁に深刻な結果をもたらす国――少なくとも1月6日の襲撃犯は銃を所持していなかった――では、次回はそれほど幸運に恵まれないかもしれないというのが私の懸念だ。
では、何ができるでしょうか？まずはメディアリテラシーについて学ぶことから始めましょう。KQEDには素晴らしいリソースがあります。そして、他の人にも同じように学ぶよう勧めましょう。スタートアップの創業者であれば、テクノロジーとAIに関する知識をどのように活用すれば、私たちが直面するであろうほぼ無限に氾濫する偽情報に対抗できるかを考えてみてください。
