よくわかる人工知能 清水亮 ディープラーニング

よくわかる人工知能 最先端の人だけが知っているディープラーニングのひみつ

第四章　人工知能は意識を持つのか？

対談　前野隆司

前野　[茂木健一郎がクオリアでブレイクした時、クオリアという意識の司令塔みたいなものが何のためにあるかが世界最大の謎だと言ってて]
すごく間違ってると思った（略）そもそも自律分散的なもので脳は成り立っているはずだ、司令塔みたいなものがあると思うからものすごい謎のように思えるのであって、そもそも司令塔なんてないと思えばもともと謎なんかない[と直感して本を書き出し]（略）“受動意識仮説”を思いついた
（略）
清水　[意識は圧縮装置なのではないか]今この瞬間、生きてる瞬間って、ものすごくたくさんの情報が入ってきて（略）全部覚えていたら、脳がいくらあっても足りないので、その中で選択的に起きたことを長期的に記憶するように記号化する、それが実は“意識”の役割なんじゃないか
（略）
前野　僕も本に書きましたけど、まったく同じですよ。圧縮装置じゃなくて、並列を直列に変換する装置と書いた。並列的な情報だと覚えられないので、情報を直列化して、ストーリーとして覚えるための装置だと思っています。
（略）
僕は完全に機械論者っていうか（略）魂も幻想だと思っているんですよ。（略）
“意識”っていう存在が、豊かなように感じるようにできているだけであって、実際は相当プリミティブなロボットみたいなものなんじゃないか
（略）
ガザニガ先生の研究で、左脳と右脳が分離した“分離脳患者”の人に、右脳に向かって「前に歩きなさい」って言う実験があるんです。すると、左耳（右脳側）からの指令に従って、その人は歩くんですよ。その人の左脳に「あなたは、どうして歩いているんですか？」って聞いたら、（左脳と右脳が分離しているので）本当は歩く理由がわからないわけじゃないですか。それなのに「そこに自動販売機があるから、ジュースを買おうと思って歩いてるんですよ」って答えたそうです。人間はうその自由意志でさえも一瞬のうちに作り上げられるということです。だから、我々が深く考えているように思えるのも全部、辻棲合わせ。ストーリーのように見える辻棲合わせを延々とやり続けてる。
（略）
[意識は能動的という仮説の矛盾]
“意識”が司令塔だとすると、この司令塔はものすごく賢くなきゃいけない。部分、部分は賢くなくていいっていうのが自律分散システムの説明だったのに、司令塔を置いた瞬間に、司令塔は、すべてを理解できなきゃいけないですから、そのためにはものすごく賢くなきゃいけないっていうことになってしまう。すると、今まで自律分散システムの役割分担、ということで説明できそうだったことが、ぜんぶひっくり返る。（略）
だけど、“意識”も全部、受動的だったら、サブモジュールがやった結果を、ちょっと直列化というか、圧縮して、それを記憶に持っていくだけですから、全体把握システムではなく、単なる部分的サブモジュールに過ぎません。そうだとすると、作ることも容易に想像できますよね。

脳はなぜ「心」を作ったのか「私」の謎を解く受動意識仮説 (ちくま文庫)

第五章　ディープラーニングの先にあるもの

対談　山川宏

清水　今、人工知能学会と言われている世界のメインストリームは、パターン認識じゃなくて記号処理ですよね。記号処理って、こんな数式があったら、こう解けるとか、こういう言葉は品詞分解したら、こんな風に自然言語を解釈できるっていうもの。以前は人間がメッチャ頭使って、知性とはこのようなものであると定義して、その定義のもとでプログラムを書くから、やることはたくさんあった。ところがディープラーニングの場合、なんとなく脳っぽいものを作って、なんとなく学習を繰り返していくと、「あっ、なんかできちゃった」って。
　だから、既存の学者先生たちから見ると、すごくズルしているようにも見えるし、これは研究対象にならないって言うわけですよ。極端に言えばサイコロを振る機械を研究してどうするんだ、と。ゲームでたとえるなら、既存の先生方がドメスティックなプレイステーションの大作ＲＰＧみたいなゲームに取り組んでる一方、深層学習はスマホゲームの『ねこあつめ』ってくらい、ハッキリ分かれてる。
（略）
第二次世界大戦の頃、イギリス政府がエニグマ暗号を解くために集めた人たちっていうのは、言語学者とかなんですよ。ドイツの暗号だから。ドイツ語に詳しい学者とか、そういう人をたくさん集めた。けどぜんぜん解けないわけです。アラン・チューリングはドイツ語ができなかったわけ。「ドイツ語もできないで、どうやってドイツ語の暗号を解読するんだ」って言われて、「いえ、私はパズルを解くだけです」みたいなことを言うんだけど、まさにそれ。今の人工知能学会って結局、言語学者的な人たちが、すごく多いですよね。
（略）
山川　（略）膨大なハイパーパラメータ探索みたいなところの重要性が高まってきているので、むしろ研究者というよりもノリノリのエンジニアがバンバン作った方が結果が出やすくなってきてる部分が生じてきているのです。つまり、「原理はよくわかんないけど、作ったら、だんだんデキてきちゃった」みたいな
（略）
清水　実を言うと僕も、本格的にディープラーニングを触り始めたときに思ったことがあって。「あっ、これ、すごく賢い人達がＪＰＥＧを作ったくらいのインパクトがあるぞ」と。ＪＰＥＧって理論はすごく難しいんだけど、今はそれこそ小学生でも扱えますよね。内容を理解しなくても深層学習は使えるなあって思ったんですね。（略）
もうぜんぜん素人に近い人が、「とりあえずこのデータを突っ込んだら、なにが起きるのかな」というのをバンバン試してみて、試した結果「あっ、こういうことができるんなら、面白いじゃん」っていう世界を、いかに早くつくるかがこれから重要になるなと思ったわけです。