- 第1章 中島秀之
自由意志はありますか？
意識は単なるモニタであり、能動的機能はないという考え方もありますし、自由意志の源という考え方もあります。現状では我々は答えを持っていませんが、私は意識は自由意志の源だと考えています。問題解決において、ゴールに向かって猪突猛進するだけでは解決できないことがあります。ときには遠回りする必要があります。（略）[これは]なかなか難しい問題なのです。無制限の遠回りを許してしまうと探索範囲が無限に広がってしまいますし、現実問題として有限の時間で問題が解決できません。このような場合に広くまわりを見渡して判断する、そしてその後の行動を変えるという機能は自由意志を持たなければならないと思います。
マクダーモットは全く別の面白い考え方を述べているので紹介しておきます。自由意志は実際には存在しないが、問題解決には自由意志を持つと「思うこと」が必要であると述べています。彼は例として、ロボットＲが、自分の隣に爆弾がある場合の行動について、世界のモデルを内に持ちながらプランニングしている場面を示しています。このモデルの中には部屋や爆弾のほかにＲ自身も含まれます。自分自身の心の作用が機械的だとすると、それがどのような結論を出すかを知るために自分の思考や知識を計算しなければなりません。そうすると、その中には再び自分のモデルが再帰的に含まれているわけですからこれを計算する必要が出てきて、無限後退となってしまいます。これを避けるために、自分のモデルは機械的ではなく、何でも考えられる（自由意志を持つ）という特異点として扱ってしまうことにより、そこで計算を止めることができます。自由意志は問題解決を計算可能にするための方便だという考え方です（私は、このプランニングしている機能自体が自由意志ではないかとも思うのですが……）。
三つの立場
１．知能の本質は記号処理にある
これは人工知能という分野の創始者たち（ニューウェル、サイモン、ミンスキー、マッカーシーら）が取った立場です。「物理記号システム仮説」とも呼ばれています。それを受けて初期の人工知能研究は、知識の表現と推論が中心的研究課題でした。（略）[しかしフレーム問題などから]現在では記号処理〈だけで〉知能が実現できると考えている研究者は少ないでしょう。しかしながら、記号処理を中心としない高度な知能が考えられないのも事実です。
２．知能の本質は環境認識にある
これは環境の生データを記号に分類（分節化）することこそが知能の本質である（略）パターンの処理が重要であるとする考え方です。（略）[画像認識などは実用化されてきたが]まだ人間の能力とはかなりの開きがあります。最近盛んになっているディープラーニングもこの分野で成果を挙げています。
３．知能の本質は環境との相互作用にある
前記の二つは、知的システムを外界と区別し、システムの内部の機構について論じるものでしたが、これは、そのような境界分けは無意味あるいは不可能とする立場です。オートポイエシスに代表されるように、環境を含む系としてとらえたり、あるいは、環境とシステムの相互作用の中に知能の本質を見たりしようとするものです。
- 第2章 西田豊明
スーパー知能が管理する理想社会は幸福か？
スーパー知能が人類を滅ぼそうとしたらそれを食い止められるかといった問題提起をする人がいますが、私は技術的特異点[technological singularity]のもたらす本質的問題はもう少し別のところにあると思っています。我々が最初に目撃するであろう技術的特異点は、スーパー知能が人をさげすむとか、憎むとか、滅ぼそうとするのではなく、人間が描いた理想郷の中に人間が住む（ないしは住まわされる）という形で訪れるのではないかと思っています。
（略）
[人類を凌駕した]スーパー知能は、人間が世界や自分を破滅させないよう目を光らせるものの、人間を敵対視することもなければ、自由を奪うこともないでしょう。そして、人間が法律を順守し、互いを尊重しつつ、健康に生きていくよう仕向けるでしょう。（略）
そうした理想郷が人類が自ら選択して自律的に決定した結果であればいいかもしれませんが、強制されたり気づかないままそうなってしまい、人間が自ら作り出した理性で隅々まで縛られて生きることを強いられて、もう引き返せなくなってしまった、ということになれば、ヒューマニティはひどく損なわれたことになります。
（略）
保険の掛け金のコントロールにより、生活習慣病などのリスクを最小化するように運動をし、食生活をし、健全な毎日を送る以外の選択肢がなくなります。公共の場所では、他者に危害を加えるどころか、ハラスメントとなる行為をするだけでも記録が残るようにもなるでしょう。アウトローがいなくなるのはいいのですが、我々の自律性は必要限度をはるかに超えて一挙手一投足まで制約されたものになってしまうかもしれません。（略）「あなたのためです」と称して、羽目をまったく外せなくなってしまうと、人間らしく生きているという感覚が薄れていきます。
自我
１．自我は個体に唯一存在する、２．心は自我が生み出す現象である、３．自我が生み出した心は、自分を生み出した自我への自覚がある、４．ある個体の自我が生み出した心は、他の個体が生み出した心に気づき、さまざまな手がかりを使って他者の心が考えていることを推察できる、と。（略）
[他者の心を感じるには]二つの方法が考えられます。第一番目は、自分の知っている知識を使って他者の自我が与えられた状況でどのように振る舞うかを推理する、という方法です。
第二は、自分の自我が他者の自我と同じものだと仮定し、自分の自我を他者の自我が置かれているのと同じ状況に置いてシミュレーションすることによって、他者の自我が生成する心がどのようなものか知る、という方法です。重要なことは、そういうことが特に意識しないでも自動的に行われているのではないかという点であり、これはミラーニューロン説[他者の行為を見て、あたかも自分が行動しているかのように反応する神経細胞]などによって支持されています。（略）
第一番目の説は理論説、第二番目の説はシミュレーション説と呼ばれています。どちらが正しいかという論争もかなり行われているようですが、私は両方を使っていると思います。（略）つまり、推察結果を実際に相手の自我が生成している心に一致させることができるのだと考えています。
心をもつメカを作ることの罪深さ
「心を持つメカを破壊できないのではないか？」という疑念を払拭することは難しいと思います。ひとたび「心を持つメカ」ができると、それと心の絆を作る人が出てくるでしょう。心を持つメカを破壊すると、そのメカと心の絆を作り上げてきた人間の心を傷つけることになるのではないかと思えます。
――では、心を持つメカの権利も認めなければならなくなるっていうことですか？
そうです。さらにもっと悩ましい問題も生じます。心を持つメカを作る過程を想像してみてください。きっと試行錯誤の繰り返しで、多数の失敗作や未完成作品を作ることになるでしょう？どの段階で権利を認めればいいのでしょうか？
心を持つメカヘのロードマップ
自我の立脚基盤を脳・身体系を模倣した情報処理メカニズムを作るのではなく（略）[ディズニーなどの]キャラクターの力を使って心を持つメカの初期バージョンを立ち上げようというものです。（略）
ディズニーのような国を作り、人もその国の住民になるという前提を成立させることができれば、ディズニーのストーリーの力を使って、人をその世界に巻き込んでコミュニケーションをとおして、関係の層を積み重ねていけば、人の心の中に存在を築けるように思います。はじめのうちは、キャラクターは完全自律にしなくても、人の手で操っていてもいいのです。ベイツやヘイズ・ロスはこうしたアプローチの先駆者です。対照的に、はじめから我々の日常世界で「心を持つメカ」として認めてもらえるものを作り出すことは難しいですね。
――メディア立脚型自律知能なら、生成と削除が許されるというわけですか？
そのとおりです。歴史的に考えてみると、その昔、特に将棋やチェスなどのゲームは戦いで殺し合うといったリアリティの暗黒面を避けつつ、リアリティの一部をルールとして切り取っていろいろなことを試すことにより、複雑な現実を理解するという有力な知的手段であったに違いないと思います。その後の古典ではゲームは現実社会とは切り離されたお遊びと目されているようですが、今はそれ自体がビジネス化し、独立した現実にもなってきています。
ゲーミフィケーション
我々の生活空間が、メディア立脚型自律知能の生存条件を満たすように変わりつつあると言えます。人工物の社会への実装は難しいとされてきたのですが、人間のほうからメディア世界に生活空間を移していくという図式が主流になってくると、世界をうまくデザインすることによって、高度な自律キャラクターの実現を早めることができるように思えます。
――どういうゲームデサインがいいのですか？
ツイッターは非常に良い例だと思っています。ツイッターというシステムは、参加者としても傍観者としてもいろいろな楽しみ方があります。メディア立脚型自律知能のデザイナーの立場に立つと、ツイッターだと人間とボットの区別がつきにくい点も非常にありがたいですね。
――あらが目立たないからだ！
そのとおりです。メディア立脚や自律知能と人間の違いが大きすぎると、両者はすぐ区別できてしまい、面白味が減って、相互に学び合うということも起きにくくなります。
（略）
我々が持っている強力なコミュニケーション力、察したり解釈する力と表現する力、期せずして漏れ出づるソーシャルシグナルなどを現実に目撃する機会を増やすと、そのログデータから実際にサクサクしたコミュニケーション力を持つ自律キャラクターを生み出しやすくなります。
- 第9章 池上高志
人工知能とは
――なぜ人工知能が嫌いなのですか？
言語的なもの・代数的なものが性に合わないからです。人工知能は、記号的であり言語的であり、代数構造を基本に構築されています。しかし知能の研究では言葉の背後にある「身体性」こそが問われるべき問題であり、その形はもっとずっと幾何学的なものだ、と思えるからです。ここで言う「幾何学的」というのは、ナイーブな意味での、球をちょっと押し潰す、といった「ちょっと変化する」、の「ちょっと」を扱えることで、それが扱えない代数っていうのは問題ではないか、など無知と偏見に満ちた意見で決め込んでいたわけです。
（略）
――なぜ人工知能が好きなのですか？
これまでの物理学の研究の延長上にないからです。これまでやってきた「パターンの生成と消滅」の研究は面白いし、そもそもカオスの研究に引かれたのも、非線形方程式に隠されていたカオスの幾何学的イメージが視覚化されたためです。それは記号的ではなく連続状態の、代数ではなく幾何学的なイメージとしての力学系研究の真骨頂です。しかし、それはもう十分やりつくしたのではないでしょうか。
（略）
――人工知能って何ですか？
我々がペットや人と接触するような、情動と冗談に満ちた相互作用を、物理法則に関係ない形で、人工的に作り出せるシステムを人工知能と定義します。別の言葉で言えば、分析的にわかるのではなく、会話したり、つき合うことで直感的にわかりたいと思うシステム。それが人工知能です。
（略）
――グーグル検索は人工知能になりうるのですか？
いいえ。ならないでしょう。（略）ラベルによる決めつけ、あるいはその思考ストップが問題だと思うからです。（略）グーグル検索のやっていることは、森羅万象ありとあらゆるものにラベルを貼り、インターネットで、検索可能にするという作業です。究極的にはグーグル検索で探しても出てこないものは存在しない。このグーグルの持つ構造的問題は深刻だと思います。（略）
[コップには「コップ」と貼ってある世界を想像してみればそのへんてこさはわかるだろう]
わたしたちの見ている世界とは、「ラベル貼りされた後の残響と残像」です。だからコップを見るときには「コップ」を見ているのではなく、コップのテクスチャーや形と同時に、それに喚起される記憶やイメージ、自分の身体運動を見ているのです。それが認知プロセスです。逆にラベルだけならば、抜け殼です。認知はラベル貼りではない。だからグーグルの方向線上には人工知能はないのです。ラベルを貼らない人工知能とその研究のオルタナティブを探しましょう。
（略）
――ロボットは人工知能を達成したのでしょうか？
反射的な知性（ゴキブリ的な知性）は、力学系でほば達成していると言ってもいいでしょう。そういう路線上では力学系的知性はかなりの成功を収めている。ブルックスのルンバ（Roomba）はたいした発明です。身体は脳の命令を聞く入れ物ではありません。脳は身体運動の結果をあとづけ的に解釈する装置にすぎないのです。身体から作り出す情動こそが、脳科学者ダマシオの言うように人の知性を作る可能性があります。問題は、このロボットからゴキブリ以上の知性は出現しそうにない点です。
――人工知能を作るには進化が必要ですか？
（略）
知能が進化のプロセスで生まれたものならば、まずは生命を作らねば！生命を作ればその副作用として、知能も出現するはずです。だから人工的に生命を作ること、人工生命を考えることが人工知能実現への道なのだと考えています。（略）
生命は知性を進化させたが、生命なき知性というのは発生していません（略）生命をまず発生させよう！それが人工生命です。直感的には生命を作るほうが知性を作るよりも簡単なはずです。
――人工生命とは何ですか？
人工生命とは、自律性・自己維持・自己複製・進化可能性、を人工的なシステムに持たせたものです。どんな原始的な生命体も、この四つは持っているとも考えられましょう。例えばゾウリムシは自律的に動き、膜に囲まれた代謝反応ネットワークを持ち、自己複製を可能とし、生命の大きな系統の流れの中にあります。この四つを、生命システム以外の材料をもとに作ったのが「人工生命」です。
（略）
――人工生命に足りていない五番目の要素とは？
ずばり環境の過剰性が足りていない！と思うのです。人工生命を作る場合、うっかりあまりに陳腐な「世界そのもの」をインストールしてしまったことに気がつきました。インストールされる仮想世界は、現実に比べるとはるかに陳腐で、安全にできています。ロボットの実験場もそうです。しかし現実世界はもっとリッチで過酷です。現実世界における過剰性との向き合い方。それが、これまでの人工生命（そして人工知能）の研究には欠けているように思えます。
（略）
ビッグデータの科学とは異なり、過剰なデータ自身が自己組織化して見せる「生命性」を見ることです。この生命性こそが、人工の生命であり人工の知能です。それをmassive data flowと命名しました。今、人が作り得た最も複雑な人工システムはインターネットウェブです。そこには、過剰なデータが流れ込み、インターネットの構造は日々変化する、不安定な組織体です。だからこそ、ウェブに新しい生命を創発させ、人工知能が生まれるのを待つ実験はどうでしょうか。
インターネットは、ＳＮＳの登場によって、サーチするメディアからコミュニケーションするメディアヘと変わりました。次に来るウェブの変革は何でしょうか。ぼくは、だから生命性の誕生だと思うのです。
[関連記事]
kingfish.hatenablog.com
kingfish.hatenablog.com
kingfish.hatenablog.com
