ソフトウェアが脳のように見え、脳のように動作するなら、私たちはそれを脳のように扱うでしょうか?

長らくSFの世界と思われていた脳ですが、今や研究者たちは人間や動物の脳を完璧にモデル化したソフトウェアの開発に取り組んでいます。全脳エミュレーション（WBE）と呼ばれるアプローチは、脳の機能構造を完全に模倣できれば、脳と完全に類似したソフトウェアを作成できるというものです。その結論は単純でありながら、驚くべきものです。科学者たちは、感情、依存、野心、意識、そして苦しみなど、私たちが経験するあらゆることを理論的に体験できるソフトウェアの開発を目指しています。

「現在、コンピュータサイエンスの分野では、脳の仕組みを解明するためにニューラルネットワークのコンピューターシミュレーションを行っています」と、オックスフォード大学未来人類研究所の計算神経科学者で研究員のアンダース・サンドバーグ氏はArsに語った。「数十年後には、脳全体をスキャンし、コンピューターコードに変換し、脳内で起こっているあらゆることをシミュレーションできるようになるかもしれません。」

すべて。もちろん、完璧なコピーが必ずしも同等を意味するわけではありません。ソフトウェアは…全く違います。それは、私たちが指示した通りに動作するツールです。私たちが人間らしさを形作っていると信じているのと同じ能力を、ソフトウェアに与えることができるとは想像しがたい。コンピューターが愛し、飢え、苦しむ姿を想像するのは、少し滑稽に思えるかもしれません。そして、科学者の中にはそれに同意する人もいるでしょう。

しかし、科学者、未来学者、Google のエンジニアリング ディレクターなど、これを実現するために真剣に取り組んでいる人たちもいます。

今のところ、「いつ」「いつ」という疑問はすべて脇に置いておきましょう。脳に関する理解が飛躍的に深まり、テクノロジーが飛躍的に進歩し、これが私たちの新たな現実だと仮定しましょう。私たち人間は意識を持つソフトウェアを創造したのです。そうなると、問題はそれにどう対処するかになります。

空想を現実に変えるというこの試みが成功する保証は全くありませんが、WBE（人類の不死）が人類の不死を意味するのか、それとも終末を意味するのか、こうした問題について考える人々の間では、かなりの議論が交わされてきました。しかし、この種の人工知能が現れた場合、私たちが具体的にどう反応すべきかについては、ほとんど議論されていません。WBEに対して、私たちは人間らしい優しさを示すのでしょうか、それとも残酷さを示すのでしょうか。そして、それは本当に重要なのでしょうか。

AIのプラグを抜くことの倫理

サンドバーグ氏は、 Journal of Experimental and Theoretical Artificial Intelligence（実験的・理論的人工知能ジャーナル）に最近掲載された論文で、全脳エミュレーションの成功によって生じるであろう（あるいは少なくとも生じるべき）倫理的問題のいくつかに深く切り込んでいる。同氏によると、論文の焦点は「これらのシミュレートされた脳に対して、私たちは何をしてよいのか？」ということだ。脳を完璧にモデル化したWBEを作成した場合、脳は苦痛を被る可能性があるのか​​？私たちはそれを気にするべきなのか？

繰り返しになりますが、いつ成功するかはさておき、初期のソフトウェア脳は動物の脳を模倣する可能性が高いでしょう。動物の脳は単にはるかに小さく、複雑性が低く、入手しやすいからです。では、動物を完璧に模倣したコンピュータープログラムは、実際の動物と同じ扱いを受けるのでしょうか？実際には、これは問題にならないかもしれません。例えば、ソフトウェアの動物脳が虫や昆虫を模倣する場合、そのソフトウェアの法的および道徳的地位についてはほとんど懸念されることはありません。結局のところ、今日の最も厳格な実験基準でさえ、研究者が無脊椎動物を扱うことにほとんど制限を設けていません。AIをどのように扱うべきかという倫理的問題を理解する上で、真の疑問は、哺乳類をプログラムするとどうなるかということです。

「私が研究室にいると想像してみてください。ケージの中に手を伸ばして小さな実験用ラットの尻尾をつねると、ラットは悲鳴を上げて痛みで逃げ出し、決して機嫌が悪くなるでしょう。実際、動物実験に関する規制では、こうした行動に対して非常に厳しい見方をしています」とサンドバーグ氏は言う。「では、コンピューターラボに入り、バーチャルリアリティ用の手袋をはめて、小さなラットのシミュレーションが入ったケージの中に手を伸ばして尻尾をつねったらどうなるでしょうか？これは本物のラットに同じことをするのと同じくらい悪いことなのでしょうか？」

サンドバーグ氏が示唆したように、哺乳類の扱いには倫理規定があり、動物は苦痛を軽減するための法律によって保護されています。デジタル実験動物も同じ規則で保護されるのでしょうか？サンドバーグ氏によると、このソフトウェア開発の目的の一つは、 炭素ベースの動物の使用に伴う多くの倫理的問題を回避することです。

これらの問題を理解するために、サンドバーグ氏の記事は、哲学者が動物の道徳観、そして感覚を持つ存在としての動物と人間との関係性をどのように定義しているかを読者に紹介する。これらは簡単に要約できる概念ではない。「哲学者たちは何十年もこれらの問題について論争を続けてきました」とサンドバーグ氏は言う。「哲学者をコンピューターにアップロードして、どう感じているか尋ねるまで、彼らは論争を続けるでしょう。」

多くの人は「ああ、ただのソフトウェアだから」と答えるかもしれないが、サンドバーグ氏にとってはそれはあまりにも単純すぎるように思える。「私たちは生身の人間ではないという経験がないので、ソフトウェアが苦しむという経験がないのは、単に経験する機会がなかっただけなのかもしれません。もしかしたら、苦しみのようなもの、あるいはソフトウェアが苦しむよりもさらにひどいものがあるのか​​もしれません」と彼は言う。

サンドバーグ氏は最終的に、後悔するよりは安全策を講じるべきだと主張している。彼は慎重なアプローチが最善であり、WBEは「反証となる証拠がない限り、対応する動物のシステムとして扱うべき」だと結論付けている。この証拠とはどのようなものか、つまり、意識を持たない動物の脳をモデル化するように設計されたソフトウェアとは何かという質問に対し、サンドバーグ氏はそれについても検討した。「単純な例としては、体内の電気活動が実際の動物のものと異なっている場合が挙げられます。これは、シミュレーションが全く現実に近くないことを示唆しています。てんかん発作に相当するものがあれば、意識は存在しない可能性が高いという結論も出せるでしょうが、今や私たちは懸念すべき事態に近づいているのです」と彼は言う。

つまり、ソフトウェア動物の脳が意識を持たないという証拠は、生物学的動物の脳が意識を持たないという証拠とまったく同じように見えます。

仮想の痛み

サンドバーグ氏は慎重な姿勢を訴えながらも、エミュレーション実験を完全に排除すべきだとは主張していない。立ち止まってよく考えれば、デジタル実験動物への思いやりは比較的容易に生まれると彼は考えている。苦痛を感じ取れるデジタル脳を作れるだけの知識があるなら、その痛みの中枢を迂回する知識も得られるはずだからだ。「本物の鎮痛剤よりもはるかに優れた仮想鎮痛剤を作動させることが可能になるかもしれません」と彼は言う。「文字通り、痛みに対応する信号を省くのです。今のところシミュレーションについて心配しているわけではありませんが…数年後には状況が変わると思います。」

もちろん、これは動物の苦しみの唯一の源が痛みであるという前提に基づいています。その点において、今日の生物動物の苦しみを私たちがこれほど多く受け入れている現状を考えると、ソフトウェア動物が将来苦しむかもしれないと心配するのは無意味に思えるかもしれません。もし家でネズミを見つけたら、どう処分するかは自由です。私たちは食料やファッションのために動物を殺します。なぜソフトウェアネズミを心配するのでしょうか？

一つの答えは、基本的な思いやりを超えた、実践が必要だということです。他の哺乳類の脳を模倣できるなら、人間の脳を模倣することは避けられません。そして、人間のような意識を宿すことの倫理は、はるかに複雑になります。

サンドバーグ氏は、痛みや苦しみ以外にも、このシナリオで起こり得る倫理的問題を数多く検討しています。目がくらむほど単調な環境、破損または無効化されたエミュレーション、永久冬眠、コピーという厄介な問題、思考速度が大きく異なる存在間のコミュニケーション (ソフトウェアの脳は人間の脳よりも 100 万倍も速く動作する可能性があります)、プライバシー、自己所有権と知的財産の問題などです。

これらはすべて厄介な問題かもしれないとサンドバーグは予測する。しかし、もし解決できれば、人間の脳のエミュレーションは驚くべき偉業を成し遂げることができるだろう。宇宙探査のような極限の任務には理想的で、宇宙空間に送ることも可能になるだろう。そして、もし本当にそうなれば、生物の絶滅を生き残るのは、デジタル版の私たち自身だけになるかもしれない。

弊社の何が特別なのでしょうか?

もちろん、技術がこの段階に到達しなければ、これらすべては意味をなさない。では、いつ、そしていつ実現するかという疑問に戻りましょう。

多くの人にとって、脳のエミュレーションが成功するという考えはあまりにも奇妙で、私たちの通常の経験をはるかに超えているため、却下した方が賢明に思える。サンドバーグ氏は自身の研究を将来の苦しみを防ぐための取り組みと捉えているが、決して起こらない出来事を心配してなぜ知的資本を無駄にするのかと疑問に思う人もいるだろう。批評家たちは、ソフトウェアは感情を経験したり意識を持つことはできない、あるいは少なくともそのためには脳のデジタルコピー以上のものが必要だと主張する。私たちを特別なものにする何かが、脳にはある、そうではないだろうか？

多くの科学者はノーと言います。

「神経科学界の誠実な科学者のほぼ全員が、よく調べてみれば、脳の機能を模倣することは『原理的に』可能だと信じていることを認めるでしょう」と、神経科学者で神経工学者のランダル・コーネ氏は言う。「そうではないと主張することは、生きた脳に何らかの非物理的な魔法が働いていると主張することになり、そのような考え方に傾倒する科学者は今日では非常に稀です。」

コーネ氏は「全脳エミュレーション」という言葉を生み出したグループの一人です。彼は、現在の生物学的脳と同じくらい有能で意識的なソフトウェア脳を持つ日を思い描いています。そしてコーネ氏も、いつかソフトウェアが苦痛を感じる能力を持つようになるというサンドバーグ氏の考えに同意しています。「全脳エミュレーションをソフトウェアで実装できれば、そのソフトウェアによって生み出された心は、私たち人間と同じように苦痛を感じることができると確信しています。動物や人工知能を模倣したソフトウェアなど、他の種類のソフトウェアも苦痛を感じるようになる可能性は十分にあると思います」と彼は言います。

神経科学者で脳保存財団の理事長であるケネス・ヘイワース氏も、デジタル脳が現実の脳よりも劣る理由はないと考えている。そして、人の心のデジタルアップロードは単なるコピーに過ぎないと主張する人々に対し、ヘイワース氏は、人間とはそもそもどのような存在なのかを考えるべきだと提言する。「認知科学と神経科学を通して、私たちはプログラムのようなものだということが分かりました。コンピューター上のデータファイルのようなもので、私たちを唯一無二の存在にする情報こそが、真の私たちであるということです。」

（ヘイワース氏は、意識シミュレーションの法的・道徳的地位についてはまだそれほど心配していないことに注目すべきだ。「これは明日起こることではありません」と彼は言う。「50年から100年後には、私たちが行動を起こし、（エミュレーションが）完全な権利を持つようになることを願っています。」）

WBEの可能性について異論を唱える著名な人物は、デューク大学神経科学教授のミゲル・ニコレリス氏です。ニコレリス氏は、自身の研究室におけるブレイン・マシン・インターフェース（BMI）と霊長類用神経補綴に関する研究で注目を集めています。2013年には、MITのテクノロジーレビュー誌で 、「ダウンロードは決して実現しないでしょう…コンピューターで脳を模倣できるという考えを売り込む人はたくさんいます…世界中のコンピューターチップをすべて揃えたとしても、意識を作り出すことはできないでしょう」と述べています。

本日コメントを求められたニコレリス氏は、「私はこれまでの発言を堅持します。人間の脳の働きをデジタルマシンでシミュレートすることは不可能です」とだけ答えた。

ニコレリス氏がコンピューターで脳を模倣することはできないと考えているのは異例だが、WBEの将来性が過大評価されているという懸念はより広く広がっている。例えば、ヒューマン・ブレイン・プロジェクトは、欧州連合（EU）の資金援助を受けて、脳のようなコンピューターチップシステムを開発する試みである。しかし、このプロジェクトは、管理の不備や現実的な目標の欠如といった批判にさらされている。しかし、一部の科学者は、この構想は当初から未熟であり、評価する能力に乏しい政府機関に売り込まれたと指摘しており、問題はもっと深刻かもしれない。

少し立ち止まって、私たちがまだ人間の意識を完全に理解できていないことを思い出しましょう。人間は一体どの時点で生から死へと移行するのでしょうか？私たちは知りません。意識という感覚はどこから来るのでしょうか？それはまだ議論の的となっています。なぜ手術中に麻酔から覚める人がいるのでしょうか？そして、脳はどのようにしてこの覚醒をコントロールするのでしょうか？外科医たちはそれを知りたいと願っています。

引用された他の科学者とは異なり、アリス・パーカー氏は未来学者やトランスヒューマニストを自認していない。しかし、南カリフォルニア大学の教授であるパー​​カー氏は、WBE（人間と脳の相互作用）の実現可能性に関する独自の見解で知られており、アナログ計算を用いて脳をリバースエンジニアリングするプロジェクトを主導している。パーカー氏はこの考えに慎重な姿勢を示し、「実現には程遠い」と強調する。脳に関する理解は未だに初歩的だと考えているからだ。「非常に重要と思われるメカニズムが、ようやく発見されたばかりです。（中略）電子回路を構築している私たちは、神経科学者の教えに従い、日々新たな発見があり、新たな情報によっていつ完全なパラダイムシフトが起こるか分からないという感覚を持ちながら、できる限り模倣しているのです」と彼女は語る。

パーカー氏は、画像内の猫を認識するといった特定の機能を実行するように設計されたニューラルネットワークは順調に進歩していると指摘し、こうした発言を和らげている。しかし、コンピューターによるより広範な抽象的推論には何十年もかかるとパーカー氏は見積もっている。ニコレリス氏とは異なり、パーカー氏は依然としてそれが可能だと考えている。「神経メカニズム、生物学的メカニズムを完全に理解すれば、抽象的推論を行うことができるような認知処理が可能になります」とパーカー氏は言う。「意識が存在するように見える段階に達した時、これらの生物をどのように扱うべきかについて議論する必要があると思います。」

WBEから意識が出現するかどうかという問題について、パーカー氏は、誰も本当のところは分かっておらず、最も権威のある同僚たちの間でさえ意見が分かれていると述べている。彼女にとって、脳はプログラムのようなものだというヘイワースの主張さえも、軽すぎるように感じられる。「脳ははるかに複雑で、はるかに多次元的で、はるかに多くの微妙な点があると思います」と彼女は言う。「（脳はプログラムのようなものだと言うのは）あまりにも単純化されすぎています。息を呑むほど複雑なのです。」

小さく始める

今日、私たちは意識のあるWBEs（全地球的環境）から、たとえ最も単純な動物であっても、まだ程遠い存在です。私たちは周囲の世界について、遠く離れた惑星がどのように動き変化していくのか、化学物質がどのように結合し分離していくのか、大陸がどのように分裂し隆起していくのかなど、多くのことを知っていますが、人体、そして私たちの膨大な無知の中にある人間の脳については、驚くほど知識が乏しいのです。

しかし、私たちは学んでいます。これらの取り組みは、米国のBRAINイニシアチブ、EUのヒューマン・ブレイン・プロジェクト、そして民間団体が提供する賞金といった潤沢な資金によって支えられています。金銭的なインセンティブだけでなく、研究者たちは強い科学的探究心と、はかない不死と真の不死の両方を求める情熱によって突き動かされています。「この研究に参加したい。実現させたい。たとえそこに辿り着けなくても」とヘイワースは言います。

最大の障害の一つは、「コネクトーム」（脳の配線図）に関する知識の不足です。科学者たちは未だに脳の複雑なネットワークの包括的な地図を作成できておらず、各部位がどのように、そしてなぜ接続されるのかを解明できていません。この点でも驚くべき進歩が遂げられており、オバマ政権が推進する脳科学イニシアチブは、この進歩をさらに加速させると期待されています。

しかし、今すぐに生物全体をシミュレートしたい場合、小さく始めることを提案する人もいます。理論的には、コネクトームをマッピングできる生物を選べば、徐々に作業を進めることができます。Open Wormは、地球上で最も研究されている生物の1つであるC. elegansをモデル化するオープンソースの分散作業プロジェクトです。C. elegansは、ちょうど302個のニューロンを持つ線虫です。このモデルは細胞レベルで線虫を反映しており、作成者がコンポーネントとその接続を追加したため、複雑さが増しています（最近、チームはリアルな筋肉の動きを模倣することに成功したと発表しました）。正確なエミュレータを作成するという点では、Open Wormは、このモデル生物のデジタル化を目指す他のチームとの競争にも直面しています。

他の研究者たちは、上から下へと作業を進めています。ヘイワース氏は、脳を硬化ポリマーで保存し、層ごとに信じられないほど薄いスライスを採取することで、脳をデジタル化する取り組みを主導しています。それぞれの新しい表面は電子顕微鏡で撮影され、スライスにデジタルデータとして追加されてから、5×5×5ナノメートルの解像度で3Dレンダリングが作成されます。「これにより、本当にあらゆるものを見ることができます」とヘイワース氏は言います。「シナプス小胞を数えたい、非常に詳細に見たい。そのすべてを観察できるのです。」

残念ながら、ヘイワース氏によると、このような研究は「非常に遅い」という。彼のチームは現在、ショウジョウバエの脳に取り組んでいる。脳全体の画像化と記録には約1年かかるという。最高の技術を用いても、この高解像度のアプローチでは1年に約1立方ミリメートルしか完成しない。他の研究室では、より長い期間（完成画像まで5～10年）、より低い解像度、あるいはより小さな部分で、マウスや人間の脳の画像化に熱心に取り組んでいる。それでも、ヘイワース氏は楽観的な見方を崩さない。「今世紀中に人間の脳全体を撮影し、回路レベルで理解できるようになると信じずにはいられない」と彼は言う。

研究者は、もしそれが可能であれば、記憶、好き嫌い、行動、そして性格をコード化した回路を読み取れると主張しています。脳の回路をこのレベルで詳細に保存できれば、その人の本質を保存できると彼は考えています。たとえWBEの作成方法が解明されるまであと100年かかるとしても、ヘイワース氏は、それが実現するまでは（冷凍保存や化学的保存によって）脳を保存しておいてほしいと考えています。

個人の脳を理解するためのこのビジョンが間違っていたとしても、多くの未来学者の夢である、個人の思考、感情、記憶のダウンロードに相当する機能を実現できる可能性は依然として残っています。しかし、それを使って何かを行うには、それをアップロードする必要があり、しかもWBEにアップロードすることになります。

したがって、初期のエミュレーションが苦しむかどうかをなぜ気にかけるべきなのかという問いへの答えは、私たち自身もいずれエミュレーションになるかもしれないということなのかもしれません。ここでの考え方は、苦しむソフトウェアへの懸念は純粋な同情心から来るのかもしれませんが、こうした問いには利己的な要素が含まれているということです。エミュレーションとして永遠に生き続けるにもかかわらず、私たち自身の残酷さを押し付けられるというのは、最悪の皮肉と言えるでしょう。本質的に、ソフトウェアが私たち自身になる可能性があるからこそ、ソフトウェアにおける苦しみを心配する必要があるのか​​もしれません。

人間とエミュレーションの相互作用

人類が大量死と出生率の停滞に耐えない限り、人類模倣と人類の共存の時代が訪れる可能性が高い。これらの人類はどうなるのだろうか？十分に進化した模倣は、より速く、より少ない資源で、思考し、繁殖し、移動し、適応する可能性を秘めている。彼らはある意味で超人となり、私たち人類はより劣った動物のような存在になるかもしれない。

彼らが私たちにどう接するかは、私たちがそもそもどのように模倣を発達させてきたかによって決まるでしょう。もし私たちが不親切な態度を見せたり、同情を拒み、痛みを無視したりすれば、ソフトウェアはこれらの教訓を私たちに反映させるかもしれません。残酷な扱いを受けた子供はしばしば残酷になります。しかし、この新しい意識形態において苦しみを軽減しようと努め、代わりに共感を示すなら、これらの教訓が私たちに伝わる可能性が高くなります。もちろん、保証はありません。親切に扱われた子供が冷酷になることもありますが、私たちに有利になるようにカードを積み重ねようとするのは理にかなっています。これは、同じ古い物語に新しい登場人物が登場するようなものです。私たちの行動は子孫の運命に影響を与えるのです。

こうしたシナリオを考察するのが、ジョージ・メイソン大学の経済学教授で、WBEに関する著書を執筆中のロビン・ハンソン氏の専門分野です。ハンソン氏は物理学と経済学の専門知識を活かし、未来のテクノロジーがもたらす影響を予測しています。人間の脳の能力を超えるエミュレーションの台頭は避けられず、その結果生じる社会的影響は、人間の農業の始まりに匹敵する規模になるだろうと彼は考えています。

301 件のコメント