「畑とRUNと音楽と」 読書メモ ＜プラスアルファ＞

　河合俊雄、吉岡洋、西垣通、尾形哲也、長尾真　＜創元社・2021.2.22＞

・2019年10月14日に京都大学にて開催された「第4回京都こころ会議シンポジウム」の講演とディスカッションを記録したもの。京都大学こころの未来研究センターの河合と吉岡がシンポジウムの主催者側で、AI関連の研究者である残り3人が講演。

吉岡洋：こころとアーティフィシャル・マインド
　AIによる美空ひばりもどきの歌唱やレンブラント風の絵画は、芸術にとっての脅威ではない。「芸術」とは「芸術らしさ」の全体とイコールではなく、むしろその外にある何かであり、「こころ」とは、アーティフィシャルに実現可能なすべての機能の外部にある何ものかのことである。
　要するに、我々が歌唱や絵画から感じるものは、AIで分析可能な物理現象の総和を超えているし、アーティフィシャル・マインドは決して＜こころ＞には到達しない、ということか？
　芸術を例に出してはいるが、結局、何の根拠もなくAIによる＜こころ＞を否定しているらしい。

西垣通：AI時代の心のゆくえ
　生物以外の機械は、学習する最新AIも含めて、自由意志を持たず、自律性もない。
　情報科学/情報工学におけるコンピューティング・パラダイムとサイバネティック・パラダイム
コンピューティング・パラダイム：論理的に完結した単一の客観的な全体世界の存在を前提として、それを俯瞰的に眺めて論理的に計算して答を出す。現在の主流。
サイバネティック・パラダイム：生物の多様な主観的世界を重要視し、動的に変化する世界が前提。オートポイエーシス（自己創出）理論によれば＜こころ＞は閉じたシステムであり、外部からの刺激は全て自分が意味解釈して自分なりのやり方で内発的に変わるのみ。そのような生物の主観的な世界の総和が全体を形成する。
　前者のパラダイムの行き着いた先がカーツワイルの「シンギュラリティ仮説」になり、ハラリの「ホモ・デウス」になるが、西垣は後者を支持し、それらに懐疑的であり、AIによって＜こころ＞ができると考えていない。この議論には納得。

尾形哲也：深層学習と運動感覚学習　ー認知発達ロボティクスの視点から
　ニューラルネットワーク（ディープラーニング）でロボットを動かす研究を二十年来行ってきた研究者。タオルをたたんだり、ドアノブを掴んでドアを開けたりできるロボットを開発。
　シンギュラリティは相当先まで達成されない。ディープラーニングによるAIはブラックボックスになるが、その意味ではペット動物でも完全にホワイトボックスなわけではない。AIロボットの責任所在については倫理的、法的、社会的な議論が必要。
　AI に芸術（もどき）は作れるが、その価値判断をするのは人で、AI には無理。
　「強いAI」はアメリカでは警戒対象の敵として考えられるが、日本文化では「友」として扱おうとするところが日本の強みではないか。

長尾真：令和二年　心のモデルを考える
　心に関するコンピューター・シミュレーションモデルを考えるために、脳の働きを①知的機能、②心の働き、③魂の働き（生命力、エネルギーを発するところ）の３つのブロックに分けて考える。①知的機能は、現在のAIの範囲のほぼ全て。③魂の働きに関する長尾の説明は良くわからない。喜びとか怒り、興奮などによる「元気度」の違いか？①と③以外の人間頭脳の働きを　②心の働き　とする。心あるいは心の有り様は言葉でしか伝えられない。←本当か？　
　長尾は、心の働きとは、外界からの刺激に対して人はどのような感情を持ち、どのような反応を外界に表出するか、また知的ブロックから表出しようとする内容にどのような心的情報を乗せた変化形で表出するかによって、その人の頭脳の中の働きを推定し、第三者が言葉によって表現したもの、と考える。コンピューター的立場から見れば、心の働きはソフトウェア。知的機能が発する言葉が言語であり、心の働きが発する言葉が芸術。
　人間頭脳における「意識」とは、コンピューター全体を管理するOSのようなもの、と言う。従って長尾は、Aiでは常に「意識」は働いていて「無意識」という状態はない、と考えているらしい。あとの議論は陳腐で興味なし。
　意識 = OS 説は非常に新鮮であるが、ということは AI は既に、そして常に意識を持っていることになる。動物に意識があるか、という議論は即ち、動物に無意識の活動ができるか、という命題に置き換えられるのか？　「意識」とはそんなに狭いことか？

　ディスカッションで最も興味深いのはメタファーに関すること。AI はメタファーが苦手で、ディープラーニングでも非常に難しい、とのこと。さもありなん。様々な現象における類似性の発見は科学の進歩に重要だが（木から落ちるリンゴと地球を回る月）、メタファーと同じような意味で、AI ができるようになるのだろうか？