序文：researchmapによせて

文章：鈴木力憲

下記ブログ『どうすれば脳を「理解」できるのか：「コンピュータチップの神経科学」から考える』は、2017年にPLoS Computational biologyに掲載されたJonas and Kordingによる論文”Could a neuroscientist understand a microprocessor?”を出発点に、理工系出版社で編集を務める丸山隆一さんと、神経科学者（のはしくれ）である鈴木が、「脳ってどうやって理解できるの？」という問いについて考え、まとめたものです。このブログの内容は丸山さんのサイトでも同時掲載されています。

researchmapで公開する上で、より専門的な知識を持つ研究者に向けて、私たちがなぜこのような文章を書くに至ったかについて、ある程度の補足が必要だと考え序文とさせていただきました。

本ブログ記事は、科学に興味のある一般の方々に向けて、「脳のような複雑な器官をどのように理解できるのだろうか？」という、いわば私たち神経科学者の立脚点について解説したものです。したがって、科学界に向けての何か新しい視点を提供するものではありません。しかしながら、研究者の方々にとっても、その思想的立ち位置を今一度問うためのたたき台になるのではないかと期待しています。その意味で、researchmapで公開することには意義があると考えています。

まず、ヨナス論文や本ブログ記事について、多くの研究者が持つであろう批判に対してあらかじめ答えておこうと思います。
一つ目は、「ヨナスらが行った”コンピュータチップの神経科学”はナンセンスである。したがって、ヨナス論文について議論することは無意味である。」という批判です。私は個人的には、この批判は非常によく理解できます。たしかに、この論文でヨナスらが行なった「実験」それ自体はナンセンスです。しかし、ヨナスらの真の狙いは「神経科学の根源的なプロセスを見直すこと」にあります。ヨナスらは論文の中でこう主張しています。”私たちの用いている解析手法が単純なプロセッサにすら対応できないのだとしたら、どうしてそれが私たち自身の脳でうまくいくと期待できるだろうか？”
つまりヨナスらの主張は、神経科学研究が「コンピュータの神経科学」とおなじくナンセンスに陥っていないとなぜいえる？というものなのです。私は神経科学者のはしくれとして、ヨナスらのこの主張に対して何らかのレスポンスをする必要があるのではないか、と考えました（本当のところは、丸山さんからの熱心な呼びかけによってその論点を理解できたのですが）。神経科学の方法論に対する疑義に対して、それを擁護する必要があると考えました。またそれによって、今一度、自分がどんな「理解」を目指しているのかを自分自身に問いかけることができるのではないか、と考えました。これがヨナス論文を無視してはいけないと私が考えた理由です。

私たちが日々行なっている研究が「ナンセンスではない」ときちんと示すことは、実はそう簡単ではありません。本ブログ記事では、「マーの3レベルによる理解」を軸に、どのように脳を理解していけるのかということについて、今一度と整理をし言語化することを目指しました。私たち（丸山と鈴木）は、ヨナスらの脳の理解の仕方、つまり「コンピュータを理解するがごとく脳を理解する」という土俵に上がったうえで、マー的理解の視点から神経科学の擁護を試みたといえます。しかしながら、私たちはマーの枠組みが脳を理解する唯一の方法だとは考えていません。したがって、「脳の理解とは何か？」というより根本的な問いは残されており、それについては改めてまとめたいと考えています。

二つ目は、「脳」や「行動」という語句についての批判です。私たちは本ブログ記事において、「脳」や「行動」という言葉を非常に広い意味で用いています。私たちは、『脳という器官』だけが、何らかの『行動』に重要であるとは考えていません。神経細胞以外の細胞が担う情報処理や、身体を超えた環境や他者との相互作用による情報処理、あるいは我々がまだ知らないような情報処理様式の可能性について認識しています。そのような、より広い視野で「情報処理をする実体」を考えても、本ブログ記事での論点は変わらないと考えています。

三つ目は、「そもそもこのようなブログを書く意味があるのか？」という批判です。科学知識に対する信頼が揺らいでいる昨今、サイエンスコミュニケーションの重要性は繰り返し指摘されています。個々の研究成果や科学的知識をわかりやすく伝えていく努力はもちろん重要ですが、それとおなじく、私たち研究者がどのような思想・方法論にのっとって研究をしているのか、どのような視点で研究対象を捉えているのか、そして何を目指しているのかという「研究者の哲学」ともいえる部分を伝えていく必要もあるのではないでしょうか？科学の営みが社会と切り離せない時代に生きる私たちにとって、研究者が目指すべきものは何かということについて語ることは無意味ではないと考えています。

最後になりましたが、このような記事を書く機会を与えてくれた丸山さんには心から感謝いたします。ぜひご笑覧ください。

序文があります。そちらもご覧ください。

どうすれば脳を「理解」できるのか：「コンピュータチップの神経科学」から考える

文章：丸山隆一（@rmaruy）・鈴木力憲（@Mujinaclass）

近年、神経科学の進歩がすさまじい。さまざまな技術革新によって、脳に関して得られるデータは飛躍的に増えた。「記憶を書き換える」「全脳をシミュレーションする」といった華々しい研究の数々は、神経科学が脳の理解に着実に近づいていることを感じさせる。しかし一昨年、アメリカの二人の研究者が、そうした印象に水を差す論文を書いた。『神経科学者はマイクロプロセッサを理解できたか』と題されたその論文で、彼らは「神経科学者はコンピュータチップすら理解できない」と主張したのだ。コンピュータチップという人工物を対象にした「脳研究」から、何が見えてくるのだろうか。このユニークな論文を題材に、「どうすれば脳を理解できるのか」について考えてみた。

１．やがて脳は「理解」できるか？

「脳の理解」へ突き進む神経科学

脳内の記憶のメカニズムを解明して、認知症の治療法を開発したい。言語を司る脳の情報処理機構を解明して、その仕組みを対話ロボットに組み込みたい。あるいは、ただ単に知りたい。具体的な動機はさまざまだろうが、神経科学者[1]の共通の目標とは、「脳を理解すること」だ。

そして現在ほど、脳の理解のために資金と人員が投入されている時代はない。世界各国で巨大研究プロジェクトがいくつも行われているし、ここ数年は民間企業が脳にまつわる技術・製品・サービスの研究開発に乗り出す事例も目立つ。

この話題にとくに関心がなくても、

• 「AIでアタマの中が丸見えに　脳の活動パターンを深層学習」[2]
• 「光で記憶を書き換える」[3]
• 「念じるだけでリハビリ効果　ここまで来た脳技術」[4]

などといった見出しをネットで目にし、脳研究の進歩を感じる人も多いはずだ。

実際に、脳を研究する手法は目覚ましく進歩している。たとえば、

• 生きた動物で、何千個もの神経細胞の活動を同時に計測する技術
• 特定の神経細胞の活動を光で操作する技術[5]
• iPS細胞から人工脳組織をつくる技術

などが、ここ10年ほどの間に登場している。こうした革新的な技術の登場によって、研究者たちが手にしている脳にまつわるデータの量はすごいスピードで増えている。すべての神経細胞の配線を意味する「コネクトーム」の解明や、ヒトの脳にある約1000億個の神経細胞のシミュレーション[6]ですら、視野に入っている。こういう話を聞いていると、脳の理解は遠くない未来に迫っているのではないかとも思えてくる。

このままいけば脳は理解できる？

しかし本当に、こうした技術や実験によるデータの積み重ねの先に「脳の理解」はあるのだろうか？　神経科学は、「脳の理解」への道を着実に進めているのだろうか？　そう楽観視はしない研究者もいる。アメリカの若手神経科学者、エリック・ヨナス氏もその一人だ。彼は持ち前のデータ分析のスキルを生かし、多彩なコラボレーションで知られる神経科学者コンラッド・コーディング氏とともに、2017年にユニークな論文を発表した。

• Jonas, Eric, and Konrad Paul Kording. "Could a neuroscientist understand a microprocessor?." PLoS computational biology 13.1 (2017): e1005268.　https://journals.plos.org/ploscompbiol/article?id=10.1371/journal.pcbi.1005268

タイトルは、ずばり『神経科学者はマイクロプロセッサを理解できたか』[7]。著者らはこの論文で、マイクロプロセッサ（いわゆるコンピュータチップ）を脳に見立て、神経科学の手法を用いてマイクロプロセッサの動作原理を解明できるかを試したのだ。

なぜそんなことをしたのか？　それは、神経科学の手法が脳の動作原理を理解するうえでどの程度有効なのかを問う試金石になると考えたからだ。神経科学は、脳が行っている複雑な情報処理の原理・仕組みを解明することを目指す。一方、マイクロプロセッサもまた、脳よりもずっと単純ではあるが、情報処理機械である。ならば、神経科学はマイクロプロセッサの仕組みくらい理解できるはずである。プロセッサは人間がつくったものなので、その動作原理がすべてわかっている。したがって、その理解がどれほど「真実」に近づけているか検証できる、というわけである。

著者らはこの論文で、さまざまな神経科学の手法を用いてマイクロプロセッサの動作を解析したが、マイクロプロセッサの動作原理について意味ある知見を得ることができなかったと結論する。そのうえで、「現状の神経科学的手法ではマイクロプロセッサの動作原理すら理解できなかったけど、これでいいの？」という、挑発的なメッセージを投げかけたのだ[8]。

本稿の筆者らは、ヨナスらの「脳の理解は遠い」という見方には同意しつつ、彼らの論文が与える印象ほど神経科学は未熟でもなければ無力でもないと考えている。その理由については、第4節で詳しく述べたい。まずは、次節にて、ヨナスらの論文を簡単に紹介する。

２．神経科学者はコンピュータチップを理解できるか？

チップ研究（Jonas & Kording, 2017）のねらい

ヨナスらは、MOS6502というマイクロプロセッサを研究の題材にしている。1970年代に発売された製品で、AppleⅠ・ⅡにCPUとして搭載されたものだそうだ。


MOS6502　出典：https://upload.wikimedia.org/wikipedia/commons/4/49/MOS_6502AD_4585_top.jpg

周知のように、この黒い箱の中身は集積回路であり、半導体の素子や配線が焼き付けられたシリコンの基盤が入っている。ヨナスらは、このマイクロプロセッサを「脳」に見立てて、神経科学者が脳を研究するのと同じように、その「研究」に乗り出した（以降、便宜的に「チップ研究」と呼ぶことにする）。上述のように、神経科学の手法をプロセッサで試すことがそのテスト[9]になると考えたからだ。どういうことだろうか。

たとえばヒトの脳には約1000億個の神経細胞があり、それらが互いにつながっていて、私たち人間の行動を実現している。その動作原理は未知であり、それを知ることが神経科学の目的だ。脳というブラックボックスを前に、神経科学者は

• 神経どうしのつながりを解剖学的に調べる
• 神経細胞に電極を刺して、その電気的な活動（電位の変動など）を測る
• 数千個の神経細胞の活動を測り、その時系列の相関を計算する
• 神経細胞の集団的活動が生み出す「脳波」と、人間の行動の相関を調べる

など、さまざまな方法を用いる。

一方、MOS6502には 3510 個のトランジスタで構成される電子回路が組み込まれており、この回路が複雑な計算を実現している。脳との最大の違いは、その動作原理を私たちが知っているということだ。プロセッサのなかの素子（トランジスタ）たちがどのような回路を構成し、計算機としての機能をどう実現しているのか、私たちは知っている（少なくとも計算機科学を学んだ人が少しこのプロセッサについて調べれば知ることができる）。

だが、そうした知識を何ももたないことにしたらどうか。するとプロセッサもまた、科学者にとって脳と同じブラックボックスとなる。もちろん、脳とコンピュータチップは、構成する材料も、動作原理も違うだろう。しかしプロセッサの知識をもたない（ふりをした）科学者にとっては、どちらも「計算を実現するブラックボックス」という意味では同じだ。

そこで、あえてプロセッサに「神経科学」をやってみる。そして、あとから正解（ground truth）と比べてみる。そうすれば、脳を研究するために使ってきた手法の「切れ味」がわかるだろう。これが、ヨナスたちの「チップ研究」のねらいである。

ヨナス論文がやったこと

何はともあれ、ヨナスらはまずはこのプロセッサのケースを開け、その回路に微細な電極を刺し――たりは実はしていない。というのも、彼らはこのプロセッサの「シミュレータ」を利用できたからだ。ヨナスらとは別に、先立ってMOS6502をリバースエンジニアリングしたプロジェクトがある。このプロジェクト（Visual6502という）では、マイクロプロセッサの顕微鏡写真を撮って全トランジスタとその配線図を再構成した[10]。その配線図をもとに、全3510個のトランジスタとワイヤの電圧を、CPUの1クロックの単位で計算するというシミュレータを作成した。トランジスタレベルの動作から、このMOS6502でビデオゲームの画面を描画している状況を再現できるという[11]。この高精度なシミュレータを使うことで、ヨナスらは「コンピュータチップの神経科学」を仮想的に行うことができたのだ[12]。


ヨナス論文のFig 2：Optical reconstruction of the microprocessor to obtain its connectome. 　出典：https://doi.org/10.1371/journal.pcbi.1005268.g002　（©2017 Jonas & Kording, CC-BY 4.0）

ヨナスらは、神経科学でよく行われるいくつかの解析を、マイクロプロセッサに対して（シミュレータ上で）試みた（表）（researchmapの文字制限のため、どうしても表を挿入することができなかった。丸山さんのブログを参照してほしい。）。

損傷研究

ここでは「損傷研究」について取り上げてみよう（上表の２行目）。一般に、脳の研究は、「脳の活動」(brain activity)とヒトや動物の「行動」(behavior)との対応を調べることで行われる。それを行うもっとも素朴な方法として、特定の脳部位や神経細胞の活動を「損傷」させたとき、行動にどのような変化が起こるのかを調べることが考えられる。そのような研究をここでは「損傷研究」と呼んでいる。

このような「損傷研究」に相当する実験を、ヨナスらはマイクロプロセッサに対して行っている。論文では、三つのゲーム（ドンキーコング：DK、スペースインベーダー：SI、ピットフォール：PF）のプレイ画面が再生されることを3種類の「行動」とみなし、それぞれの「行動」とプロセッサを構成する3510個のトランジスタとの関係を調べようとした。3510個のトランジスタを一つずつ「破壊」したときに、チップの「行動」にどのような影響が出るかを見たのだ[14]。

その結果が下図である。


ヨナス論文のFig 4：Lesioning every single transistor to identify function.出典：https://doi.org/10.1371/journal.pcbi.1005268.g004（©2017 Jonas & Kording, CC-BY 4.0）

左のベン図は、三つの行動の損失につながったトランジスタの数を表している。プロセッサを構成する3510個のトランジスタのうち、1565個のトランジスタについては、そのうち一つが破壊されてもゲームの再生には影響せず、逆に1560個のトランジスタでは、そのうち一つでも破壊されるとすべてのゲームが再生されなくなった。ここでヨナスらが着目するのが、青・赤・緑のトランジスタである。これらは、それぞれ「ドンキーコング（DK）」だけ、「スペースインベーダー（SI）」だけ、「ピットフォール（PF）」だけの再生に影響を与えたトランジスタである（上図右）。ある特定のトランジスタの損傷によって、特定の行動だけが損失する場合、そのトランジスタはその行動にとくに重要であると考えることができる。つまり、緑のトランジスタはドンキーコングの再生に特化した、いわば「ドンキーコング・トランジスタ」である、ということになる。

しかし、コンピュータハードウェアの知識をもつ私たちからすれば、これはまったく的外れな解釈だ。一つのトランジスタは論理ゲートなどを構成しているだけで、それが「ドンキーコング」にとって本質的だなどということはあり得ない。したがって、この損傷研究は、チップの動作原理について何も教えてくれない――少なくともヨナスらはそう結論づける。

コンピュータチップ「すら」理解できない？

ヨナスらは、論文の終盤で次のように書いている。

• 私たちの用いている解析手法が単純なプロセッサにすら対応できないのだとしたら、どうしてそれが私たち自身の脳でうまくいくと期待できるだろうか？“Unless our methods can deal with a simple processor, how could we expect it to work on our own brain?”（discussionより）　
• 結局のところ、〔この研究で我々〕神経科学者がマイクロプロセッサを理解できなかったことが問題なのではない。問題は、神経科学の今のアプローチではマイクロプロセッサを理解できないであろう、ということなのである。“Ultimately, the problem is not that neuroscientists could not understand a microprocessor, the problem is that they would not understand it given the approaches they are currently taking.”（discussionより）

今の神経科学の方法では、3510個のトランジスタからなるプロセッサですら理解できなかった。脳を理解したいなら、せめてそれくらいはできてしかるべきだ。したがって、神経科学には、研究アプローチの見直しが求められるのではないか。以上が、この論文の主張となっている。

この結論は衝撃的だ。1970年代のコンピュータチップの動作原理でさえうまく解明できないなんて、最先端の神経科学はそんなにも無力だったのか？

いや、そこまでではない、と本稿の筆者らは考える。ヨナス論文が与える印象よりは、神経科学は脳の理解への道を着実に進んでいる。たしかに、ヨナスらのチップ研究は、「脳を理解するためにはどのような視点が必要か？」を今一度考え直すための良いデモンストレーションであることは間違いない。一方、実際の脳研究のアナロジーとしては、少々「お粗末さ」を強調しすぎているように思える。最高級の包丁を、あえて目隠しで振り回して、「ぜんぜん切れなかったですけど？」と言っているように感じるのだ。以降、本稿の後半では、その印象をより具体的に説明していくが、その前に、まずは「脳を理解すること」について考えてみよう。

３．脳を理解するための枠組み：マーの3レベル

ヨナス論文をはじめ、神経科学者は何気なく「脳を理解する」という言葉を口にする。本稿でも使ってきた。しかし、あらためて「脳を理解する」とはどういうことなのだろうか。ここでは一つの有力な枠組みを紹介し、それに沿って考えることにしたい。

マーの枠組み

その枠組みとは、デヴィッド・マー（David Marr）という神経科学者が1970年代に打ち出した「マーの3レベル」である。マーは、小脳の計算モデルや、視覚の情報処理の研究で名を成した（が、キャリア半ばで若くして亡くなった）研究者だが、「脳をどう理解するか」について人一倍考えたことでも知られている。

視覚の研究をまとめた著書“Vision”[15]の冒頭で、マーは「情報処理を行うあらゆる機械は、三つのレベルで理解されなくてはならない」といっている。その三つとは、

1. 計算理論（computational theory）：その計算の目標は何か（what）、なぜそれが適切なのか（why）、それはどんなロジックに基づく戦略で実行可能となっているか。
2. 表現とアルゴリズム（representation and algorithm）：この計算理論はどのようにして（how）実行できるか。とくに入力と出力の表現は何か、それらの変換のためのアルゴリズムは何か。
3. ハードウェアによる実装（hardware implementation）：表現とアルゴリズムがどのようにして（how）物理的に実装されているか。

である[16]。

まず、一番下の「ハードウェアによる実装」の理解とは、脳のなかでどんな細胞がどんな活動をしているかといった、脳の解剖学的・生理学的な理解である。一番上の「計算理論」のレベルは、着目している動物が、脳を使ってどんな「計算」を行っているのかを問う。動物のある行動の「機能」や「目的」は何か、と言い換えてもいいかもしれない。そして中間の「表現とアルゴリズム」のレベルは、下層の「ハードウェア」が、いかに上層の「計算」を実現しているのかを問う。下層の神経活動がどのような情報を表現していて、どんな手続きで計算を実現しているのかの理解を目指す。

マーの3レベルによる理解の具体例として、視覚系におけるオプティカルフローの検知を取り上げて説明しよう[17]。たとえば、動物が直進しているところを想像してほしい。そのとき、動物が見ている景色は直進方向を中心として同心円的に広がっているように見える（下図(a)）。オプティカルフローとは、このような自分の動きによって網膜上に生じる「景色の相対的な動き」のことである。さまざまな動物、たとえばショウジョウバエなどの昆虫[18]では、オプティカルフローを知覚することは外界に対する自分の動きや位置関係を把握するために非常に重要である。それではこのオプティカルフローの知覚は、脳によってどのようにして実現されるのだろうか？


ショウジョウバエの視覚におけるマーの3レベル[19]。(c)の出典：Takemura, Shin-ya, et al. "The comprehensive connectome of a neural substrate for ‘ON’ motion detection in Drosophila." Elife 6 (2017): e24394.　https://doi.org/10.7554/eLife.24394.002　（©2017 Takemura et al. CC-BY 4.0）

現在最もコンセンサスを得ているモデルが、Hassenstein-Reichardtモデル（HRモデル）である（上図(b)）。このモデルでは、隣接する2地点間の視覚信号の遅延相関を計算することで、動き方向選好的な応答を実現できる。HRモデルは、とくにショウジョウバエのような昆虫のオプティカルフローに対する行動・神経応答を非常によく説明できる。そのため、実際にHRモデルの計算が昆虫脳で実現されていると考えられている。これまでの精力的な研究によって、ショウジョウバエの視覚系でHRモデルと同等の計算を実行している神経回路の実態が明らかになりつつある（上図(c)）。つまり、オプティカルフローの検知を実現する情報処理を、マーの3レベルで理解すると次のようになる。

1. 計算理論（computational theory）：オプティカルフローの検知。姿勢制御や位置推定に重要。
2. 表現とアルゴリズム（representation and algorithm）：HRモデルで表現される信号の遅延相関を計算することで実行可能。
3. ハードウェアによる実装（hardware implementation）：遅延相関を計算し、オプティカルフローを表現する実際の神経回路。

ここまでの説明でわかるように、マーの枠組みは徹頭徹尾、脳を計算機のアナロジーでとらえている。マー自身、「情報処理課題（information-processing task）」、「機械（machine）」、「ハードウェア（hardware）」など、計算機用語を躊躇なく使っている。ヨナスらがマイクロプロセッサを脳になぞらえるまでもなく、マーをはじめとする多くの神経科学者たちは、「脳を計算機として理解する」というパラダイムの上で研究をしてきている[20]。

重要なのは、ここで「計算機」というのは、人間が発明したシリコン製のコンピュータには限らないということだ。むしろ、マーの狙いの一つは、脳とのアナロジーを現実のコンピュータから切り離すことにあった。同じ「計算理論」を実現するためにはさまざまな「アルゴリズム」がありうるし、「アルゴリズム」が同じでもそれを実装する「ハードウェア」にも種々のものがありうる。脳という未知のハードウェアを前に、トランジスタとニューロン、電子回路と神経回路といった見かけ上の違いに惑わされずに、「理解の仕方」のうえでの共通性を抽出しようというのがマーの目論見だった。

ボトムアップとトップダウンな戦略

マーの枠組みは、脳のように複雑な情報処理をする対象をどのような戦略で理解すればよいかについて、明確な指針を与えてくれる。それは、「ボトムアップな戦略」と「トップダウンな戦略」である。


マーの枠組みに沿った、脳研究の二つの戦略

ボトムアップな戦略とは、ハードウェア実装のレベルをまず調べ、それをヒントに、そのハードウェアが実行しているアルゴリズムやその計算理論を探るという方向性である。神経科学者は、たとえば

• 神経細胞にどんな刺激をしたら、どんな反応をするか
• 神経細胞同士をつなぐシナプスは、細胞の活動によってどう変化するか
• 数千個単位の神経細胞の集団が、どのようなパターンで活動（発火）しているか
• 脳全体の配線が、解剖学的に見てどのようにモジュール化されているか
• 感覚刺激を受け取ったあと、どのような経路で信号が伝達されているか

など、さまざまな観点から脳の構造や活動を記述する。こうした記述をもとに、その脳活動がどんな情報を「表現」していて、そこにはいかなる「アルゴリズム」が実装されていくのかを推測することができる。

一方、トップダウンな戦略は、人や動物が見せるさまざまな行動から出発し、その行動がどんな「計算」とみなせるかを考える。その際の行動＝計算は、できるだけ具体的なほうがいい。たとえば、

• 昆虫が、視覚情報から自分が飛んでいる方向を推定する計算
• ヒトが、最短時間で目標に向かって腕を動かすための計算
• マウスが、迷路のなかで自分の位置とゴールの位置を推定する計算

などが研究対象になりえる。このように行動を計算として定式化したうえで、それを説明できる「計算理論」をつくる。そして、それを実現している「アルゴリズムと表現」やその先の「ハードウェア実装」を探すというのが、マーの枠組みにおけるトップダウンな戦略だ。

仮にマーの3レベルを理解することが「脳の理解」だとすれば、神経科学者は脳活動から出発するボトムアップな戦略と、行動から出発するトップダウンな戦略の両方を用いて、脳の理解に近づいていくことができる。

それでは、マーの枠組み、そしてボトムアップとトップダウンという切り口をもとに、ヨナスらのチップ研究を検討してみよう。

４．本当に、神経科学者はコンピュータチップを理解できないのか？

第2節で詳しく紹介したヨナス論文のタイトルは『神経科学者はコンピュータチップを理解できたのか』であり、著者らの出した答えは「全然できなかった」というものだった。本稿では、この結論に疑問符をつけたい。つまり、神経科学者が本気でチップ研究をしたならば、もう少しマイクロプロセッサについて理解できたのではないだろうか？

第２節では、ヨナス論文で行われた解析のうち「損傷研究」を取り上げた。それは、一つ一つのトランジスタを壊して、ドンキーコングなどのゲーム画面の描画が損なわれるかを調べるというものだった。しかしこの損傷研究で得られた結果は、実際のプロセッサの仕組みを知っている私たちからするとナンセンスでしかなく、プロセッサの動作原理について何の理解ももたらさなかった。ここからは、損傷研究の具体的事例をあげ、前節の枠組みをもとに、実際の神経科学とヨナスらのチップ研究の違いを考えてみる。

「損傷研究」の実際：昆虫の記憶研究の例

ここでも、昆虫の脳における事例を紹介したい。

ヒトなどの哺乳類と同様に、昆虫にも発達した脳があり、記憶や学習といった高度な認知課題をこなす能力をもつ。たとえば、多くの昆虫は「危険な場所」を記憶することができ、このような記憶は「場所記憶（place memory）」と呼ばれる。「危険な場所」の一例としては、生存を脅かすほど高温な場所があげられる。

たとえば、ゴキブリを暑い部屋に入れる。部屋の温度は45℃であり、これはゴキブリが生命の危険を感じる温度である。ただし部屋の一部分に、20℃の場所をつくる。すると、ゴキブリは20℃の安全地帯がどこにあるのかを、視覚情報を頼りに記憶することができる。ゴキブリはどのようにして、このような学習と記憶を行っているのだろうか？

水波誠[21]らは、非常に小さな鉄板をゴキブリの脳に挿入して部位ごとに神経系を破壊し、場所記憶を形成するこの学習能力にどのような影響が出るか調べた（Mizunami et al. 1998）[22]。その結果、水波らは、キノコ体（mushroom body）と呼ばれる脳部位が損傷されたときに、場所記憶の形成ができなくなることを発見した。これは、ゴキブリの脳のなかのキノコ体という特定の部位が、場所記憶の形成を司っていることを示している。

昆虫脳を用いたこの研究は、一見するとヨナスらのチップ研究で行われた損傷研究と似ている。どちらもある特定の脳部位やトランジスタを破壊して、行動にどのような影響が出るか調べている。ではなぜ、昆虫の損傷研究で得られた結果は有益であると考えられるのに、チップ研究ではそうではなかったのだろうか。

ここで、前節で導入した「ボトムアップ」「トップダウン」の観点を用いて、チップ研究の方法における「不足点」が整理できる。

ヨナスらの損傷研究の不足点１：ボトムアップの視点から

ゴキブリの研究では、損傷研究に先立って、その神経系についての解剖学的な知見が存在していた。たとえば、ゴキブリのキノコ体には視覚系からの神経投射が存在していることがすでに明らかにされていた。また、キノコ体は匂い学習というパラダイムにおいて記憶保持に重要な脳部位であることもわかっていた。つまり、キノコ体がどのような情報を受け取っており、その情報をもとにどのような機能を担う可能性があるかについて、ある程度推測が可能だったのだ。これは、前節の言葉でいえば、「ボトムアップ」な事前知識を活用したことになる。

一方で、ヨナスらがマイクロプロセッサに対して行った損傷研究では、いかなる背景知識も用いられていない[23]。ただやみくもにトランジスタを破壊して、ゲームが再生されるかどうかを調べただけだ。そのため、あるトランジスタの破壊によってドンキーコングが再生されなかったとしても、それが何を意味するのかについての理解が深まることはなかった。

そして最大の問題は、トランジスタ1個単位で破壊したことだろう。上記の研究では、神経科学者は一つのニューロンではなく「キノコ体」という部位に着目した[24]。一方、行動と対応づけるのに適切な神経活動（トランジスタ活動）のスケールは何かということについて、チップ研究では何の配慮もしていなかった。

したがって、損傷研究を有益なものとするためには、損傷研究を行う「前に」、ボトムアップ的な知見を溜めておくべきだったのではないかと考えられる。たとえば、

• トランジスタの各端子の電位を変えて、トランジスタがどのような「素子」としての特性をもっているか調べる
• 数個単位のトランジスタがどのように配線されているかを調べ、グループとしての入出力を調べる
• プロセッサにどのようなモジュール的構造があるかを調べる

などだ。こうした、もう少し丁寧なボトムアップ的研究によって、いくつかのトランジスタの組がANDやORといった論理ゲートを構成していることや、論理ゲートが組み合わさって加算器を構成していること、あるいはフリップフロップ回路が短期的な記憶を実現していることも推測できたかもしれない。大きなスケールでは、プロセッサ上の各領域の役割分担についても、何となく推測できたかもしれない[25]。その後に「損傷研究」を行っていれば、より意味のある知見が得られたのではないだろうか。

ヨナスらの損傷研究の不足点２：トップダウンの視点から

ゴキブリの損傷研究は、「場所記憶を担う脳部位はどこか？」を問うている。つまり、昆虫が見せる「過去の経験から危険な場所を覚えて、その場所を回避する」という「行動」に着目し、それを可能にする脳の仕組みを探ろうとした。このように、行動から出発して考えるのが、前節で見たトップダウンな戦略だ。

ここで注目すべきなのが、上記の「行動」には、ある程度の具体性があることだ。たとえば、もし研究の問いが「記憶を担う脳部位はどこか？」だったらどうだろう。一口に記憶といっても、その意味はさまざまであり、記憶をもっていることを示す具体的行動もさまざまだ（場所の記憶、匂いの記憶、出来事の記憶、etc）。多様な記憶のすべてを阻害するためには、その動物がもはや生存できないくらいまで脳を損傷することになるかもしれない。このように「記憶を担う脳部位はどこか？」という問いは、粒度が粗すぎて意味ある回答を得ることが難しい。

ヨナスらのチップ研究は、まさにこのような状況に陥っているといえる。チップ研究では、ドンキーコング、スペースインベーダー、ピットフォールのゲーム画面の再生を「行動」と定義しているが、これはあまりにも粗い行動の定義だ。本当にプロセッサの理解に迫っていきたいのなら、たとえば、

• ディスプレイのピクセルにどんな色が、どんな時間的頻度で表示されるか
• ジョイスティックの操作に対して、ゲーム画面がどう反応するか

といった、より具体的な「行動」を記述するところから始めるべきだろう[26]。そのうえで、より具体化された行動を疎外するようなプロセッサ部位を探せば、チップの動作原理も少しずつ明らかになっていったのではないだろうか[27]。これが、ヨナスらの損傷研究におけるトップダウン戦略の観点からの不足点である。

要するに「仮説」が足りない

以上、損傷研究を例に、チップ研究にはボトムアップとトップダウンの観点で、実際の神経科学に比べて不足している（お粗末な、といってもいい）点があることを見てきた。この指摘は、損傷研究以外でヨナスらが行った他の解析についても挙げていくことができるだろう。

以上をもとに、チップ研究と実際の神経科学研究の違いを下図にまとめてみた。チップ研究では、図(a)のように、ハードウェアレベルの記述を、一番上の「行動」（それも具体性の乏しい行動）に直接つなごうとしている。それに対して、現実の神経科学研究（図(b)）では、ボトムアップな方向性においても、トップダウンな方向性においても、もう少し着実に知識を増やしていると考えられる。


端的にいえば、ヨナス論文のチップ研究に足りないのは「仮説」または「理論」だ。実際の脳研究では、「こうなっているんじゃないか？」という仮説を立てて、それを検証するために実験を計画し、結果を踏まえてさらに仮説を立てて検証する。一方ヨナスたちは、半ば確信犯的に、何の仮説も立てずにトランジスタの全活動を分析している。もし、神経科学者が仮説をつくりながら「本気のチップ研究」を試みたなら、MOS5602の動作原理はもう少しは明らかになったと思われる[28]。

５．まとめ

再び：どうすれば脳を理解できるか？

本稿の流れを振り返る。

• ヨナスらは、マイクロプロセッサを脳に見立て、神経科学の手法を試した。
• その結果、プロセッサの動作原理についてほとんど明らかにできなかった。したがって、今の神経科学の方法は脳を理解するためには不十分なのではないかとヨナスらは結論した。
• しかし、実際の神経科学はもう少し生産的だと考えられる。脳の観察から出発するボトムアップな方向からも、行動から出発するトップダウンな方向からも、適切な仮説を立てながら研究を進めることで脳の理解に迫っている。
• ヨナスらのチップ研究も、神経科学者が本気でやれば、プロセッサの動作原理についてよりよい理解が得られたと考えられる。

ここで、本稿のタイトルの問い「どうすれば脳を理解できるか？」に戻ろう。

ナイーブには、脳についてのデータが増えれば、それだけ理解が進むような気がする（下図(a)）。しかしヨナスらは、プロセッサを例として「データがあっても理解がない」という状況をデモンストレーションして見せたのだった（図(b)）。よって、データを増やすことは、それだけでは脳の理解にはつながらない。一方、本稿では、ヨナス論文の「チップ研究」は極端すぎることを見てきた。今の神経科学の手法を適切に使えば、よりよいチップ研究ができたであろうことを述べた（図(c)）。実際、ここで取り上げた昆虫の研究では、神経科学はマーの３レベルの意味での理解を増やしてきたのだった。以上、（a）～（c）から得られる教訓は何だろうか。それは、

• データを集める「だけ」では、脳の理解は増さない（ヨナス論文の教訓）
• 一方、神経科学が一部で成功を見せてきたような、「仮説」とデータを組み合わせる方法をとれば、今後も脳の理解に迫っていけるだろう

ということではないだろうか（図(d)）。

以上を、冒頭の問い「どうすれば脳を理解できるか？」に対する筆者らの暫定的な回答としたい。今後、ますます脳を測定する技術は発展し、今では考えられないほどの膨大なデータを神経科学者は手にするようになるかもしれない。しかし、そのデータを脳の理解のためにどう使うのか、神経科学者たちは常に自問する必要があるだろう。

積み残した問題：マーの枠組み以外の「脳の理解」は？

本稿では、一貫してマーの枠組みに沿って「脳の理解」について考えてきた。また、上の図においては、ヨナスらの前提と同じく「計算機科学者がマイクロプロセッサの動作原理を理解しているがごとく脳を理解する」ことをゴールとして想定した。

しかし、脳を「理解する」とはそういうことでいいのかという疑問が残る。マーは「情報処理を行うあらゆる機械は、三つのレベルで理解されなくてはならない」といった。ここで二つ疑問が浮かぶ。

• 本当に、情報処理を行う機械は、マーの3レベルで理解しなくてはいけないのか？
• そもそも、脳は「情報処理機械として」理解しなければいけないのか？

前者の疑問は、深層ニューラルネットなどの機械学習器の理解の問題につながっている。また後者は、そもそも「脳＝計算機」のアナロジーを問い直すことを意味する。

考えてみれば、脳を理解したい動機は多様であり、動機ごとに目指す「脳の理解」の意味は違うはずだ。したがって、まだまだ考えるべきことは残っている。

• 脳と計算機はどこが似ていて、どこが似ていないのか
• 情報処理をする機械は、必ずマーの枠組みに収まるのか
• 脳の理解の仕方は、いくつくらいに分類されるか
• 研究者によって目指す脳の「理解」が違うとしたら、その違いはどこから生じるのか
• 脳と意識（主観的経験）の関係にまつわる理解はどう考えるか

こうした疑問（の一部）について、現在筆者2名で議論を続けている。もしその議論が収束しそうであれば、本稿の続きとしてまとめてみたい。

---

脚注

[1]厳密にいえば、神経科学の対象は脳以外の神経系も含む。また、脳をもたない生物を対象に研究をしている神経科学者もいる。が、大半の神経科学者の興味が脳にあるのは事実だろう。「脳科学」または「脳神経科学」という言葉を使ってもよかったが、本稿では「神経科学」で統一することにした。↩

[2]2017年7月22日　産経新聞「ＡＩでアタマの中が丸見えに　脳の活動パターンを深層学習、京大など開発」https://www.sankei.com/premium/news/170722/prm1707220010-n1.html↩

[3]2014年8月28日　理化学研究所　『光で記憶を書き換える－「嫌な出来事の記憶」と「楽しい出来事の記憶」をスイッチさせることに成功－』http://www.riken.jp/pr/press/2014/20140828_2/↩

[4]2018年11月4日 日本経済新聞 　「念じるだけでリハビリ効果　ここまで来た脳技術」https://www.nikkei.com/article/DGXMZO37326430S8A101C1X11000/↩

[5]脳科学辞典「光遺伝学」https://bsd.neuroinf.jp/wiki/%E5%85%89%E9%81%BA%E4%BC%9D%E5%AD%A6↩

[6]2018年3月26日　理化学研究所　『ヒトの脳全体シミュレーションを可能にするアルゴリズム－脳シミュレーションの大幅な省メモリ化と高速化を実現－』　http://www.riken.jp/pr/press/2018/20180326_1/↩

[7]この論文のタイトルは、2004年にロシアの生物学者が書いた『生物学者はラジオを直せるか？』という論文のオマージュである。Lazebnik, Y. (2004). Can a biologist fix a radio?—or, what I learned while studying apoptosis. Biochemistry, 69(12), 1403-1406.　元ネタとなったこちらの論文では、「生物学者がラジオを生物学的に研究したら、壊れたラジオを直せるようになるか？」という思考実験をもとに、生物学の方法論に足りない点について考察している。一方、ヨナスらは思考実験ではなく本当にマイクロプロセッサの神経科学を「やってみた」のであり、そのことを強調する意味で冒頭の助動詞“Can”を過去形“Could”に変えたのだと思われる。↩

[8]ただし、後述するように、この論文をよく読むと著者らの主張は「脳は理解できない」とか「神経科学は行き詰まっている」という否定的なものではなく、「マイクロプロセッサを理解できるような手法で脳も解析しないといけないのでは？」という、積極的な提案を含んでいる。あえて挑発的なメッセージをつけたのは、論文にインパクトをもたせるための作戦だったのかもしれない。↩

[9]論文のなかでは“sanity check”という言葉（ソフトウェアやハードウェアなどの基本的な動作確認を意味する）が使われている。↩

[10]”Visualizing a classic CPU in action”　http://www.visual6502.org/welcome.html；YouTube動画："Reverse Engineering the MOS 6502 CPU" https://www.youtube.com/watch?v=fWqBmmPQP40．MOS6502はもともと手書きで設計されたため、回路図などのドキュメントが残っていないらしい。そこで、Visual6502では、このレガシーなマイクロプロセッサの技術を復元・保存するために、リバースエンジニアリングをしたのだという。↩

[11]シミュレーションのデータ量は、1秒当たり1.5GBに及んだという。↩

[12]この状況に目をつけて「チップの神経科学ができるぞ！」と思いついた発想力と着眼点、そして実行に移す行動力が、著者らのすごいところだと思う。↩

[13]通常、tuning propertyは入力に対する神経の応答性（視覚刺激に対する視覚野の神経細胞の応答性など）を指すことが多いが、この実験ではピクセル輝度という行動出力に相関するトランジスタの活動を指してこの言葉を使っている。↩

[14]ここまで読んで、「何をバカなことを」と思った人もいるかもしれない。まず、プロセッサの仕組みを知りたいなら、ソフトウェアとハードウェアの違いを押えないとだめだろう。また、トランジスタからプロセッサ全体に至るアーキテクチャの階層構造を無視した「損傷研究」など無意味だろう、と。ここで思い出してほしいのは、ヨナスらはプロセッサについてまったく知らないと仮定しているということだ。ソフトウェア／ハードウェアの区別や、アーキテクチャの階層構造について「何も知らない状態」で脳の解析手法を適用したときに、脳よりずっと単純なはずのプロセッサの動作原理が理解できるか、というのが彼らの問いなのだ。↩

[15]“Vision”は、「神経科学者であれば誰でも知っているが、実際に読んだことのある人は少ない」という本の一冊かもしれない。邦訳は『ビジョン―視覚の計算理論と脳内表現』（産業図書、1987年）。↩

[16]The　three　levels　at　which　any　machine　carrying　out　an　information-processing　task　must　be　understood. (Marr, "Vision", p.25)↩

[17]実は、そもそも「マーの3レベル」は、ここで取り上げるハエ視覚系の動き検知の研究をもとに着想された。1976年にライハルト（Werner Reichardt）とポッジオ（Tomaso Poggio）が書いたハエ視覚の論文をもとに、ポッジオとマーが議論をし、脳の計算論的な研究アプローチの「マニフェスト」として起草したものが、のちに「マーの3レベル」として広く知られるようになった。（参考：“Vision”2009年版のポッジオによるAfterword）↩

[18]以降、本稿ではショウジョウバエなどの昆虫の例を用いる。筆者の一人（鈴木）がショウジョウバエの研究を専門にしていることがその理由の一つだが、ショウジョウバエなどの昆虫は、本稿で説明する計算論的な理解がとくに進んでいるからという理由もある。↩

[19]オプティカルフロー検知のモデル（表現とアルゴリズム）としては、他にも有力なモデルが提唱されているが、ここでは現在最もコンセンサスを得ているモデルであるHassenstein-Reichardt modelをあげる。↩

[20]なお、すべての神経科学者がマーの枠組みを意識して研究しているわけではない。マーの影響がとくに強いのは「計算論的神経科学」の分野である。大多数の神経科学者は、マーの3レベルのうちのどれか一つ、あるいは二つ（脳活動＋行動）に焦点を絞って研究しているといえるかもしれない。↩

[21]現北海道大学教授。↩

[22]Mizunami, Makoto, Josette M. Weibrecht, and Nicholas J. Strausfeld. "Mushroom bodies of the cockroach: their participation in place memory." Journal of Comparative Neurology 402.4 (1998): 520-537.↩

[23]唯一、トランジスタが独立した「素子」であるという前提は置かれている。↩

[24]もちろんこれには技術的な限界が存在したという理由もある。近年、遺伝学手法が高度に発達しているショウジョウバエなどの動物では、単一ニューロン単位での損傷研究が可能になっている。それらの研究から、ある特定の行動を引き起こすのに必須の、いわゆる「コマンドニューロン」なども同定されている。↩

[25]この点について、ヨナス論文でも指摘を予期しており、次のように注釈をつけている。「もし脳が〔行う計算の原理が〕本当に単純なものであれば、人間がそのモデル〔論理ゲートや加算器〕を推測でき、仮説づくりと反証の過程でそのモデルを獲得できるだろう。しかし脳が実際には単純でなかった場合、このアプローチは収束しない可能性がある。」“If the brain is actually simple, then a human can guess a model, and through hypothesis generation and falsification we may eventually obtain that model. If the brain is not actually simple, then this approach may not ever converge.”（discussionより）↩

[26]2017年に出た次の総説論文はその点を包括的に指摘している。Krakauer, John W., et al. "Neuroscience needs behavior: correcting a reductionist bias." Neuron 93.3 (2017): 480-490. https://www.sciencedirect.com/science/article/pii/S0896627316310406
この論文では、神経科学ではbrain-behavior relationship（脳活動と行動の対応）を調べる方法が高度に発展してきたが、一方で手法を使うことが先行してしまい（“tool driven”になりすぎてしまい）、「良い説明とは何か」「メカニズムとは何か」「脳を理解するとはどういうことか」という問いが置き去りされていると指摘する。大事なのは、測定された脳活動と対応づける行動のほうをfine-grain（細分化）することであり、さもないと、頓珍漢な脳-行動対応（brain-behavior relationship）しか得られないと主張する。この論文のなかでは、ヨナス論文を引き、これが神経科学が行動を軽視しているさまをいい感じに表しているとして評価している。↩

[27]ヨナスらも、この点は重々承知している。「ゲーム画面描画＝行動」とせざるをえなかったのは、シミュレータを使ったがゆえの制約であった。”Our behavioral mechanisms are entirely passive as both the transistor based simulator is too slow to play the game for any reasonable duration and the hardware for game input/output has yet to be reconstructed.”（discussionより）↩

[28]科学研究一般において、仮説駆動型（hypothesis-driven）研究とデータ駆動型（data-driven）研究がよく対比される。ここでは「仮説」がないことをもとにチップ研究の不足点を批判したが、ならばチップ研究はデータ駆動型研究として成立しているのかというと、そうはいえない。よいデータ駆動型研究であれば、得られたデータをもとに、どこかの段階で「仮説を探す／つくる」ことがなされるはずであり、チップ研究はそれをやっていないように見えるからだ。神経科学者のなかにはデータ駆動型を志向する人もいる。↩