読者です 読者をやめる 読者になる 読者になる

[レポート]第一知謝塾 西垣通氏「人間=機械複合系と集合知――情報社会をとらえ直す」(2012/4/14)

[レポート]
第一回知謝塾
2012年4月14日
於武田邸 
――――――
人間=機械複合系と集合知――情報社会をとらえ直す
新しい画像

[講師]
東京大学大学院情報学環
教授 
西垣 通 氏

ITは社会に革命的な利便性をもたらしただけでなく、社会構造、知のあり方や価値観をも大きく変容させた。
しかし、真のIT革命は、単なるITの高度利用にとどまるものではなく、これまで考えられてきたような人工知能の実現でもない。
人間、すなわち生命というものへの真摯かつ謙虚な理解の上に、「情報」とは何かを問い直し、人間と機械の違いを考え、情報社会というものを根本からとらえ直す、その先に見えてくるものではないだろうか。

第1回知謝塾は、東京大学大学院 情報学環教授 西垣通氏を講師に迎え、「生命にとっての情報」を軸に社会システムを考える「基礎情報学」の見地から、これからのIT、情報社会のあるべき姿を考えた。 


情報社会への疑問
――――――
武田英次塾長とは高校時代からの親友であるという西垣通氏。
大学では応用物理学を専攻し、数理モデルで社会をよりよく変えていくことをめざして、日立製作所に入社した。ソフトウェア基礎研究に14年間携わったのちに、アカデミズムの世界へ――。その前後から、人間と情報の関係について、深く考えるようになったという。
日立製作所にいた1980年代初めに、当時、人工知能研究のメッカと呼ばれていたスタンフォード大学に留学させてもらいました。そこで学ぶ中で、コンピュータや情報技術のあり方、人工知能などに対して、いろいろと問題意識を持つようになったんです。
ちょうどその頃、日本発の新しいコンセプトに基づいた第5世代コンピュータの開発計画がスタートし、僕も初期段階では参加していました。第5世代コンピュータは高性能な並列処理のロジックマシンで、ハードウェアのコンセプトとしては大変優れていたのですが、ご存じのようにその後、普及することはありませんでした。むしろそのコンセプトとは逆のシンプルなハードウェアが現在のパラダイムとなっています。
 なぜだめだったのか――。それは、ハードウェア技術自体としては優れていたけれど、人間の思考やコミュニケーションというものの本質をあまり考慮していなかったからではないかと思います。論理思考はコンピュータの根底にあるものですが、それだけで考えると、人間の感情や直感を無視して思考を機械化してしまうことになり、失敗につながった。そうした失敗の検証もしておくべきだったのではないでしょうか。」
新しい画像 (4)


生命体と機械はどう違うのか
――――――
 人工知能、コンピュータとそれを使う人間との関係を考えるとき、まず人間と機械とはどう違うのかを考えなければいけなかったのではないかと西垣氏は考える。
 「心を持つ機械を作ることは、コンピュータの黎明期から夢見られてきました。フォン・ノイマンチューリングも、単に計算速度を上げることではなく、コンピュータが人間の思考や心というものにロジカルに迫れるかどうかを徹底的に考え抜いた人たちです。
 そこで問題になるのは、[心とは何か]ということです。チューリングテストというのをご存じかと思います。判定者が文字のみの交信で機械と対話し、相手が機械か人間か確実な区別ができなければ、その機械は心、知性を持っていると言えるというものです。
 しかし、実はこのテストは不完全で、MITのジョセフ・ワイゼンバウムは1960年代に、このテストでは、それほど複雑でないプログラムでも人間をだますことが可能なことを示しました。問題はもっと深いのです。ただし一般論として、閉じた世界の中で正確な答えを出す、狭い意味での人工知能の応用について、僕は否定するつもりはありません。知識ベースの人工知能システムで優れたものもたくさんあります。でも、人間の心や知性というのはそういうものではないでしょう。例えば、対話の中で話題が飛躍しても当意即妙な答えを返すことは、人工知能には難しいことです。
 人間と機械の本質的違いを端的に表すと、自律(閉鎖)システムと他律(開放)システムの差であると考えています。人間が前者で、機械、すなわちコンピュータや人工知能が後者です。他律システムは、入力した情報をそのまま受け取り、外から注入したルールにしたがって、決まった反応をする。でも人間はそうではありません。自分の中にあるルールに基づいて、外からの情報を刺激として自己変容するものです。そのルール、変容の仕方は一人ひとり異なります。人間の体験(クオリア)は一人称的存在であって、それに基づいてわれわれは生きていますから、同じことを見聞きしても受け取り方は異なります。よって人間は閉鎖システムと言えるのです。
 このように根本的に異なっているかぎり、コンピュータにいくら客観的知識を入れたところで、人間の心や知性を持てるわけではありません。ですから、根本的に考え方を変えなければいけない。その鍵となるのがオートポイエーシス理論です。」
新しい画像 (1)

システム環境ハイブリッド
――――――
オートポイエーシス理論は、生物学者のマトゥラーナとヴァレラによって1970年代に提唱されたものです。オートポイエーシスとは、ギリシャ語で『自分で自分をつくること』を意味する造語で、自己創出などとも訳されます。彼らは、生物とは、内部にある自己再帰的なサイクリックな作動でみずからと外部環境とを区別しており、外部からの刺激を受けて自己変容し、自己創出していくものであると定義しました。」
 細胞を例にとると、たんぱく質核酸酵素などの構成素から成り、エネルギーや多様な物質を外部と交換しながら、構成素の新たな生成を絶えず行うことで、その構造を維持し続けている。この細胞の営みを組織や個体へと拡大しても、同様にサイクリックな作動を行っています。それによって生命システムが成り立っている。そのサイクリックな作動がつくり出す閉鎖的領域が、オートポイエティックシステム(=生物)と外部環境との境界となっている。細胞と同様に、人間の心や認知システムも、そのオートポイエティックなシステムの中で生み出されている閉鎖系であるということも、西垣氏の理論を理解する上で欠かせない。自分が見ている青色と、他者が見ている青色が同じであるかどうか、自分と他者が感じる「冷たさ」が同じであるかどうか、確認するすべはないのである。
新しい画像 (3)

「そうした生物システムの本質である、オートポイエティックシステムでは、外部からのエネルギーや物質、あるいは記号的な入力が同じでも、常に同じ出力があるとは限りません。 われわれトラディショナルな理科系教育を受けてきた人間は、ものごとを俯瞰的に外部から見ることに慣れているわけですが、そもそも観察者が外部から、システムとその外部環境とのあいだの入力/出力を観察することで、生命というもの、特に人の心や認知システムをほんとうに理解できるのか、という疑問が生じるのです。
 一方で、現代の情報社会に生きるわれわれの認知システムには、すでに機械的な要素が入っているのではないかという見方もできます。外部環境の中に、人工知能をはじめある意味での知性というものを持った機械、コンピュータがたくさんあることが、われわれにどう影響を与えているのか。
 それを考える上で一つの鍵となるのがネオサイバネティクスです。古典的サイバネティクスは、機械システムの制御と生物の脳神経系の機能に類似性を見出し、包括的に研究することで制御の知の確立をめざした学問領域で、現代の情報社会の形成に大きな影響を及ぼしました。その、システムの秩序の維持について外側から考える古典的サイバネティクスに、内発的な秩序の生成という、内側からの視点を加えた学問が、ネオサイバネティクスです。
 システムにとって内発的な秩序がどう生じているのかは、生命体の認知システムと人工知能との関係を知る上での本質的なポイントです。そしてそれは、システムと環境のハイブリッドというモデルで考えなければなりません。
 そのときに問われるのは、自己とは何かということです。古典的サイバネティクスは、人間機械論という誤解も生み出しましたが、われわれの無意識の中にITというものが入り込んでくることで、何が起きるのか、システム環境ハイブリッドによって何が起きるのかを、もっと冷静に、論理的に考えていくことが、これから必要になるはずです。」

クオリアから客観知識に迫る
――――――
 そうした問題を考えるのが、西垣氏の提唱する「基礎情報学」である。基礎情報学では、情報を「それによって生物がパターンをつくり出すパターン」と定義し、生物が外界と接したときに感覚器官や脳神経系など生命体の内部で生まれる生命的情報を、最も広義の情報であるとする。詳しくは『基礎情報学』『生命と機械をつなぐ知―基礎情報学入門』などのご著書をひもといていただきたいが、基礎情報学とは、「『生命と機械』という視点から、情報という概念を根本的にとらえ直し、情報の『意味』がいかに解釈され、いかに伝達されうるかを問うことから情報学にアプローチしようとする(基礎情報学より)」ものである
 「基礎情報学のトピックスの一つに、心脳問題というのがあります。脳は物質ですから、技術さえあればいくらでも計測可能です。しかし、その計測結果と心というものがどう結びついているかがわからない。クオリアというのは一人称的存在ですから、本来は内側からでなければ記述できません。外部からの観察ではなく、一人称記述から三人称記述に迫るというふうにアプローチを逆にしなければならないでしょう。
 そのアプローチの鍵となるのは、二人称コミュニケーションから出発することです。「私とあなた」という二人単位の対話を通じ、それぞれの対話者の認知システムが変容し、同時に二人の会話の内容も変容していく。この行為を共同体のなかで繰り返していく中で、やがて三人称的な、共同体のなかで客観的知識と呼びうるようなものが形成されていくのではないか。そのプロセスはとても興味深いものです。
 近年、ネット集合知というものが注目されています。特に東日本大震災後は、専門家や権威というものへの不信が高まり、ネット集合知こそがデモクラシーで、信じられるという意見もあるようです。
 果たしてそうでしょうか。
人間というのは、すべて自分で判断して行動しているかというとそうではなく、同調ということを行います。次のようなシミュレーション結果が知られています。複数のエージェントが、それぞれほかのエージェントに対して異なる信頼度を持っているという状況で、二人のエージェントどうしに他のエージェント(第三者)が信頼できるかどうか情報交換させるのです。そのときに、ごく単純でクリアなモデルであれば、それぞれのエージェントの信頼度は単純平均となるでしょう。しかし、現実にわれわれが人と対話するときには、その相手に対する信頼度という不透明性(関係性)が加わります。それがクオリアなのですが、そういう不透明性を入れたモデルと入れないモデルでは、入れたモデルの方が、安定したリーダーというエージェントが出現しやすい、つまり、みんなが同調するリーダーが出現しやすいという結果が出ています。
 ですから、単にデモクラティックに知を集めればそれが正しい知になるのかというと、そうではないというのが、情報学的な立場からの見方です。システム環境ハイブリッドの時代には、そのあたりのメカニズムを解明し、それをベースにしながら物事を考える必要があるのではないかと思います。」
新しい画像 (4)

人間=機械複合系の模索
――――――
 「ここまで人工知能や、人間と機械ということについて考えてきたわけですが、こうしたことを踏まえると、やはり[心をもつロボット]は永遠の幻ではないかと私は思います。
それよりも、人間にできない作業や技能を代行させることや、人間とのコミュニケーションをどうとるかという方向でロボットを考えた方がずっと生産的です。
 また、システム環境ハイブリッドで考えれば、[自由意思を持つ近代人]というのも神話だと思います。」
 そもそもコミュニケーションのためには情報を言語などの記号で記述することが不可欠であるが、その言語記号が表す意味内容は、言語システムやその背後にある社会制度、権力関係によって規定されている。人間は自由に思考しているようでいながら、実際はそうした意味内容を規定するものに縛られているし、ましてITが思考や意思決定のプロセスにも深く関わっている現代では、無意識のうちに思考や意思の自由が制限されているということは、十分にありえる。
 「われわれは今後、人間=機械複合の望ましいあり方を、きちんと考えていかなければなりません。そのためには、新しいタイプのコンピュータの登場も必要だと思うのです。コンピュータのめざす方向性として、あらゆる知識と心を持つ全能に近い存在というtype 1コンピュータ、パソコンのように人間のコミュニケーションをサポートするtype 2コンピュータがあるわけですが、もう一つ、生命的なオートポイエティックシステムのアクティビティをサポートするという、これまでとはまったく異なるパラダイムをめざす、type 3のコンピュータができないだろうか。
それをどう実現するか、私にもまだはっきりした具体的イメージがあるわけではないのですが。
 皆さんには、われわれ一人ひとりが個別の生を生きているということに立脚して、この情報社会をとらえ直し、新たなITのあり方を見出していただきたいと思います。単に数理的、客観的に世界を見るのではなく、人間が生物であるという原点に立ち返ることこそが、新しいパラダイムを切り拓くと、私は考えています。」

Report By 関 亜希子(ライター)