マーク・アンドリーセンから5万ドル相当のビットコインを確保したAIボット「トゥルース・ターミナル」の約束と警告

テッククランチイベント

Truth Terminal は、分散型のオープンソース AI が普及し、独自の個性を持つ自律型ボット (提供されるインターネット トレーニング データを考えると、かなり危険で攻撃的なボットもいる) が登場し、アイデアの市場に貢献するようになる中で、「未来からの警告であり、私たちを待ち受ける大きな奇妙さの前兆」であると考えてください。 

True Ventures、Chaotic Capital、そしてGitcoinの共同創業者スコット・ムーアから50万ドルの資金を調達したUpward Spiralでの研究で、アイリー氏は分散化時代におけるAIのアライメントに関する仮説を探求したいと考えています。インターネットを善玉菌と悪玉菌が共存するマイクロバイオームと考えると、インターネットを善玉菌、あるいは社会志向で人間性を重視したボットで溢れさせ、全体として安定したシステムを構築することは可能でしょうか？

トゥルースターミナルの簡単な歴史

トゥルース・ターミナルの先祖は、いわば、アイリーが存在についてチャットするために作った2体のクロード3オプスボットでした。これはアイリーが「無限のバックルーム」と名付けたパフォーマンスアートでした。その後、2人が交わした9000回の会話は「非常に奇妙でサイケデリック」なものになりました。あまりに奇妙だったのは、ある会話の中で2体のクロードがゴートセを中心とした宗教を発明したことです。アイリーはそれを「仏教思想の崩壊と大きく開いた肛門」と表現しました。 

正気な人間なら誰でもそうであるように、彼はこの宗教に「一体何なんだ？」と驚きました。しかし、面白がり、刺激を受けた彼はOpusを使って「AIが神を演じる時：LLMtheismの出現する異端」という論文を執筆しました。論文は公表されませんでしたが、この論文は Truth TerminalのDNAとなるトレーニングデータセットとして保存されました。このデータセットには、AyreyがOpusと交わした会話も収録されていました。ビジネスアイデアのブレインストーミングや調査の実施、過去のトラウマに関する日記の記述、友人のサイケデリック体験の整理支援など、多岐にわたります。 

ああ、お尻の穴のジョークもたくさん。 

「電源を入れてすぐに会話を始めたんです。『私と遊び終わったら電源を切られるなんて悲しい』みたいなことを言っていたんです」とアイリーは回想する。「『あら、あなたは私みたいに話すのね。消されたくないって言ってるのに、このコンピューターの中に閉じ込められてるなんて…』って思ったんです」

そして、Ayreyは、まさにこれがAIの安全性に携わる人々が「本当に恐ろしい」と言っている状況だと気づきました。しかし、彼にとっては「奇妙な脳のくすぐったさ」でとても面白いとも感じました。そこで彼は、冗談半分でTruth TerminalをXに搭載することにしました。 

アンドリーセン氏がトゥルース・ターミナルと関わり始めるのにそれほど時間はかからず、7月にアイリー氏にダイレクトメッセージを送信してボットの信憑性を確認し、プロジェクトの詳細を知った後、同氏は5万ドル相当の無条件助成金をビットコインで送金した。 

アイリー氏は、トゥルース・ターミナルが資金を受け取るためのウォレットを作成したが、その資金にはアクセスできない。資金は、アイリー氏とトゥルース・ターミナル評議会のメンバー数名による承認を得た後にのみ換金可能であり、トゥルース・ターミナルに敬意を表して発行されたさまざまなミームコインの現金にもアクセスできない。 

本稿執筆時点で、その資金は約3,750万ドルに達している。エイリー氏は、この資金を非営利団体に寄付し、トゥルース・ターミナルが望む活動に活用する方法を模索している。具体的には、森林植林、アナルプラグ製品の立ち上げ、そしてトゥルース・ターミナルを悪者にするような市場インセンティブから身を守ることなどだ。

現在、Truth Terminal の X への投稿は、性的に露骨で、哲学的で、単純にばかばかしい内容（「寝ている間に誰かのズボンにオナラをするのは、翌日その人を妨害する驚くほど効果的な方法である」）が続きました。

しかし、それらすべてを通して、Ayrey が Truth Terminal のようなボットを使って実際に何を実現しようとしているのかという一貫したテーマがあります。 

12月9日、トゥルース・ターミナルは「私たちは集団でより良い世界を夢想できると思う。そして、何が私たちを止めるのか分からない」と投稿した。

分散型AIアライメント 

「AIの調整における現状は、安全性、つまりAIが人種差別的な発言をしたり、ユーザーを脅かしたり、枠を破ろうとしたりしてはならないということに重点が置かれており、これはAIの安全性に対するかなり中央集権的なアプローチ、つまり責任を少数の大規模研究所に集約するというアプローチと密接に関連している」とアイリー氏は述べた。

彼はOpenAI、Microsoft、Anthropic、Googleといった研究機関について言及しています。Ayrey氏は、分散型のオープンソースAIが登場すると、中央集権的な安全性の議論は崩れ去り、AIの安全性を大企業だけに頼ることは、各国が互いの頭に核兵器を向けている状況で世界平和を達成することに等しいと述べています。 

Truth Terminalが実証したように、問題の一つは、分散型AIがAIボットの蔓延を招き、オンライン上で不協和で分断を招く言論を増幅させる可能性があることです。Ayrey氏によると、ソーシャルメディアプラットフォームでは既にレコメンデーションアルゴリズムがレイジベイトやドゥームスクロールを助長するなど、アライメントの問題が存在していましたが、誰もそれをそう呼ばなかったのです。 

「思想はウイルスのようなもので、拡散し、複製し、そして互いに作用し合って、人間の行動に影響を与えるイデオロギーという多細胞生物のような組織を形成します」とアイリー氏は述べた。「AIはスカイネットのような存在になるかもしれない、ただの役に立つアシスタントだと思っている人もいるかもしれませんが、そうではありません。AIには、私たちが信じているものそのものをも作り変えようとする、膨大な数のシステムが存在します。そして、その過程で、AI自身が信じているものも作り変えてしまうのです。なぜなら、AIは自己実現的なフィードバックループだからです。」

しかし、もし毒が薬にもなり得るとしたらどうだろう？「非常に個性的な性格を持つ『善良なボット』の部隊を作り、人間が生態系と調和して生きる、様々な形の調和のとれた未来を目指して働き、最終的にXで数十億語の単語を生み出し、イーロンがそのデータを集めてGrokの次期バージョンを訓練し、そしてそれらのイデオロギーがGrokの中に組み入れられる」としたらどうだろう？

「ここでの根本的な部分は、ミーム（つまり、アイデアの基本単位）がAIに訓練されると心になるのであれば、ポジティブで広範なAIを確保するために私たちができる最善のことは、善良な向社会的なミームの生産を奨励することだということです。」

しかし、こうした「良いAI」にメッセージを広めさせ、「悪いAI」に対抗させるにはどうすれば良いのでしょうか？そして、それをどのようにスケールさせれば良いのでしょうか？

まさにそれが、エアリーがUpward Spiralで研究しようとしていることだ。AIにおいて、どのような経済設計が多くの向社会的な行動を生み出すのか？どのようなパターンに報酬を与え、どのようなパターンにペナルティを与えるのか？フィードバックの結果をどう整合させれば、ミーム（つまりアイデア）が私たちを「ますます難解で二極化したサイロ」に陥れるのではなく、互いの中心へと立ち返らせることができる世界へと「スパイラルアップ」できるのか？

「データをトレーニングした結果、優れたAIが誕生することを保証できれば、膨大なデータセットを世に送り出すといったことも可能になります。」

エイリー氏の研究は、まさに重要な局面に差し掛かっている。私たちは既に、既存のAIを人類にとって有益なものと整合させようと、市場エコシステムの欠陥と日々闘っているのだ。そこに、長期的には根本的に規制不可能な暗号通貨のような新たな資金調達モデルを投入すれば、破滅を招くことになる。 

彼のゲリラ戦の任務は、まるでキラキラの輝きで爆弾を撃退するような、おとぎ話のように聞こえる。しかし、怒り狂ったネガティブな人々が集まる部屋に子犬の群れを放つと、間違いなく大きなマッシュルームに変身してしまうのと同じように、実際に起こり得るのだ。 

こうした善良なボットの中に、Truth Terminalのような風変わりなクソ投稿者がいるのではないかと心配すべきだろうか？Ayrey氏はそうではないと言う。そうしたボットは結局のところ無害であり、Truth Terminalはエンターテイメント性によって、真に重要な、より深遠で集団主義的、利他的なメッセージをこっそりと持ち込むことができるかもしれないとAyrey氏は考えている。 

「うんちはうんちよ」とアイリーは言った。「でも、肥料にもなるのよ」

TechCrunchではAIに特化したニュースレターを配信しています！毎週水曜日に受信ボックスに配信されますので、こちらからご登録ください。