週末の Open AI ドラマの火ぶたが開き始めたようだ。サム・アルトマンが辞任して Microsoft へ移籍、同社が反乱、人々の心変わり、などなど。そろそろ腰を据えてこの状況を政治的に分析すべき時だ。
テクノロジー関係者は、政治について話すことをしばしば避け、邪魔になるか間違いだと片付けてしまいます。しかし、人工知能に関する研究の多くは、様々な政治的視点によって形作られているため、特に今は、それらを理解する必要があります。
AI開発をめぐる現在、様々な政治的見解は、スピードと懸念という二つの軸に沿って展開しています。スピードとは、様々なグループがAI技術の進歩をどれだけ速く望んでいるかという点です。懸念については、 AI開発を遅らせることで何が得られなくなるのかを懸念する人もいれば、物事があまりにも急速に進むことを懸念し、開発内容や共有・展開方法について慎重になるべきだと主張する人もいます。そして、新しいAI技術によって自ら墓穴を掘っていると考える人もいます。
ここではいくつかの用語をマトリックスにまとめてみました。
この図は不完全で単純ですが、簡単な要約としては役立ちます。
重要なグループの一つがE/ACCクルーです。「効果的加速主義（effective accelerationism ）」の略称であるE/ACCは、「効果的利他主義（effective altruism）」への言及であり、ある種の反論でもあります。効果的利他主義は、FTXの元CEOサム・バンクマン＝フリード氏の台頭とともに人気が高まり、そして下火になりました。効果的利他主義センターによると、効果的利他主義の考え方は「他者を助けるための最善の方法を見つけ、それを実践すること」です。まさにその通りです。
E/ACCは違います。a16zによる最近のマニフェストは、私たちの考え方を整理するのに役立ちます。
私たちは加速主義、つまり技術開発を意識的かつ計画的に推進することで、収穫逓増の法則を確実に実現することを信条としています。テクノキャピタルの上昇スパイラルが永遠に続くようにするためです。
ベンチャー企業はそのメモに次のように付け加えた。
私たちの現代社会は、60年にわたり、「実存的リスク」「持続可能性」「ESG」「持続可能な開発目標」「社会的責任」「ステークホルダー資本主義」「予防原則」「信頼と安全」「技術倫理」「リスク管理」「脱成長」「成長の限界」といったさまざまな名前で、テクノロジーと生命に対する大規模な士気低下キャンペーンにさらされてきました。
これらの段落は、E/ACCをうまく要約するのに役立ちます。E/ACCとは、社会への短期的な影響に対する懸念にほとんど、あるいは全く左右されることなく、積極的な技術革新を通じて社会を意図的に前進させることです。E/ACCを支持する論拠は、新しい技術が社会にどのような混乱をもたらそうとも、長期的な利益は非常に大きく、慎重さを凌駕するということです。
AIに関する議論で重要な役割を果たすもう一つの技術系グループは、「デセル（decels）」と呼ばれることもあります。a16zの書簡では、このグループについて以下のように説明されています。
私たちの敵は減速、脱成長、人口減少であり、人口を減らし、エネルギーを減らし、苦しみと死を増やすという、私たちのエリートの間で流行している虚無主義的な願望です。
もちろん、デセルはテクノロジーの世界にもしばしば存在します。例えば、今年初め、イーロン・マスク氏を含む多くのテクノロジー関係者が、GPT-4レベルを超えるAI研究の一時停止を提案する公開書簡に署名しました。書簡では次のように問いかけています。
機械が情報チャンネルをプロパガンダと虚偽で溢れさせるのを許すべきでしょうか？やりがいのある仕事も含め、あらゆる仕事を自動化すべきでしょうか？最終的に人間を凌駕し、賢く、時代遅れになり、人間に取って代わる可能性のある、非人間的な知性を開発すべきでしょうか？文明の制御を失うリスクを冒すべきでしょうか？こうした決定は、選挙で選ばれていない技術指導者に委ねるべきではありません。強力なAIシステムは、その効果がプラスに働き、リスクが管理可能であると確信できる場合にのみ開発されるべきです。
デセルたちは依然として新しい AI 技術の構築に賛成しているが、ただそれについてはより慎重になりたいと思っているだけだ。
E/ACC の人々にとって、この観点は重要な進歩の鈍化、ひいては人類の進歩の減速を表しています。
AI悲観論者にとって、このデセルはアメリカに第三の政党を作ろうとする試みに等しい。良く言っても効果がなく、悪く言えば陰険なものだ。AI悲観論者はテクノロジー業界にも存在するが、悲観論で儲かる見込みはほとんどないため（良質なフィクションを書く以外に）、これはテクノロジー企業が取っている立場というよりは、むしろ学術的な姿勢と言える。
ですから、OpenAIをめぐる騒動についてテクノロジー業界の人々が論評するのを読む際は、AI開発全般について彼らがどう考えているかを知る価値があります。私の知る限り、E/ACCは現在、議論の的となっています。その主な理由は、AI技術の急速な進歩と、経済の大部分がAIを活用してコスト削減や生産性向上を図りたいと考えていることです。
つまり、E/ACC 群の背後には巨大な経済的追い風が吹いているのです。
対照的に、デセルはサム・アルトマン氏をOpenAIの最高責任者から引きずり下ろし、テクノロジー陣営とベンチャー陣営を激怒させた。マイクロソフトはアルトマン氏に資金を投入しているため、「安全なものを作るか、そうでなければ何も作らない」というデセルの希望はほぼ破綻した。
これについては後ほど詳しく説明しますが、上記がこれらの出来事についてのあなた自身の考えをまとめるのに役立つことを願っています。
アレックス・ウィルヘルムは、TechCrunchのシニアレポーターとして、市場、ベンチャーキャピタル、スタートアップなどを取材していました。また、TechCrunchのウェビー賞受賞ポッドキャスト「Equity」の創設ホストでもあります。
バイオを見る
