強いAI・弱いAI 研究者に聞く人工知能の実像

順番を飛ばして羽生善治を先に。

強いAI・弱いAI 研究者に聞く人工知能の実像

人工知能が将棋を指したいと思う日――羽生善治

羽生　実は、将棋ソフトというのは強くなりすぎて、ユーザーにとっては買っても面白くないので、10年ほど前からビジネスとしてはすでに成立しなくなっています。マーケットとして成立していないことで、権利を守る意味が希薄になっているため、新しいプログラムが、どんどんGitHubに載せられて公開され、ものすごいスピードで改良が進んでいます。（略）
[羽生の時代はトップ棋士の棋譜を並べてそのエッセンスを学ぼうとしたが]
　ＡＩの場合は、時系列がなく、棋譜も大量にあって、どこから取り掛かってよいか、途方に暮れてしまう（笑）。
（略）
鳥海　ＡＩの読みというのは、どのようなものなのでしょうか。人間だとストーリー性のようなものがあって、思考の積み重ねを重視しているのではないかという面がありますが（略）
羽生　これまでは、データの量と読むスピード、深さだったので、質的なものはあまり感じられなかったのですが、囲碁のアルファ碁あたりは読みの量は減らして、質を高めている感はあります。
　以前のソフトは、どれだけたくさん読めるかが勝負でした。人間の場合は、実はそうではなくて（略）無駄な思考を減らすことが、強くなるということなのです。
　一つの局面で三つの手を考えるよりも、一つの正しい手だけが見えたほうがよいわけです。
（略）
鳥海　将棋のＡＩに意思のようなものを感じることがあったりするのでしょうか。
羽生　ある若手棋士がいて、彼は将棋の研究をほぼ将棋のソフトのみでやっているのですが、彼がすごいのは、ある局面においてソフトが出すだろう評価関数を、ほぼ当てることができるんです。これだとプラス250くらいで、こっちだとマイナス100だとか。パラメーターを全部覚えることは不可能ですし、彼がプログラムの構造を完全に認識しているということもあり得ない。ですが、かなり近い数字で評価関数を出せてしまう。（略）
人がソフトを使って学習していくことで、ソフトの思考に近いものに到達することは可能なのだろうということを、この事例は示しているのかもしれません。（略）
将棋ソフトで勉強を続ければ、同じように指し手も影響を受け、判断の癖も似てくる可能性はあります。
　ＡＩは人の思考を学習していますので、人の思考に近い挙動、反応をしてもおかしくはない。人も、ＡＩに影響を受けるので、両者が近づくということは、十分にあり得るでしょう。そこに共通性を見出して、ＡＩに意識があると感じるということはあるとは思います。ですが、それは本質的には違うものと思いますし、完全に合致するということもあり得ません。

恐怖心がないＡＩ

鳥海　では、ＡＩの思考と、人の意識ある思考との差は、どのような点だと思いますか？
羽生　感情のようなものは、恐怖心とか生存本能といったものに色濃く関連したものだろうと思っています。
　将棋の手というものを考えたとき、どうしてこの一手を指せないのか、考えないのかという理由は、恐怖心や生存本能に基づいた判断であるケースがとても多い。この手は危ない、すぐに詰まされそうだと感じた手は、その手は最初から考えることすらしませんし、候補にすら意識が上げてこない。
（略）
　この恐怖心を持つかどうかというあたりが、人とＡＩの、一つの境目ではないかと思います。
（略）
　負ける、詰むということは、一回ずつ、一つの世界が終わってしまうようなものなので、それを恐怖するというのは、将棋においては必然でもあります。それが入れられれば、そのときに、強いＡＩになるということではないでしょうか。
（略）
恐怖心がないＡＩの手は、きわめて楽観的であるように感じるときがあります。まるで、痛みを感じないゾンビのような。

接待将棋

羽生　もと棋士だった北陸先端科学技術大学の飯田弘之先生が（略）接待将棋のプログラムは、とても難しいとおっしゃっていました。強さを調整して、人に負けるようにすることは簡単にできるのですが、これをどう調整しても、あからさますぎてバレバレになってしまうそうです。人であれば、うまく同じ実力のように振る舞って、勝敗が微妙な雰囲気のまま局を進め、最後に相手に勝たせるということができるのですが、ＡＩにはそれが難しい。
（略）
[『大人のAI・子どものAI――栗原聡』でもその話題になり]
栗原　[ＡＩに]高度な接待将棋ができる機能が備わったとしても、嫌がりもせず延々とそれができてしまうＡＩには逆に「ああ、飽きずに淡々と行動できるとは、やはり機械で意思はないんだな」と認識してしまうかもしれませんね（笑）

ミスがないという思い込み

羽生　これは一つ懸念していることですが、弱いにしろ強いにしろ、ＡＩが進歩して高い能力のものになってくると、多くの人は、高い能力のＡＩはミスをしないものだと思い込んでしまう。それは怖いことだなと思います。
　人であれば、ミスはあるだろうという前提で考えますが、ある程度進歩したＡＩについては、間違いを犯さないだろうと、なぜか思い込む傾向がある。（略）
「これはＡＩが決めたことだから間違いはないはずだ」と、盲目的に信じることはせず、つねに修正できる状況にしておかないといけない。

チューリングの手のひらの上で――松原仁

松原　最初に強いＡＩという言葉を作り出したのはジョン・サールですが、彼は強いＡＩとは、「精神が宿る」ものだと言っています。（略）
言われたことを忠実に行うだけのものが弱いＡＩということになるでしょう。
（略）
鳥海　いまあるディープラーニングやSiri、アルファ碁などは基本的に言われたことを行うだけで、自ら意思を持って行動はしないですから、弱いＡＩといってよいわけですね。
松原　（略）あえて言えばですが、アルファ碁やボナンザを、誰かが強いＡＩだと主張したとき、これを完全に否定するのは難しいでしょう。（略）
プロ棋士たちは、[アルファ碁の改良版]マスターに大局観とか棋風のようなものを感じているそうです。
　これはつまり、プロ棋士が、マスターに人格を投影しているということになります。（略）そこには強いＡＩが宿っているのではないかと、そう思うときがあります。

次のブレークスルーのために――山田誠二

鳥海　あれ？　ニューラルネットはＡＩの分野で研究されていたのではないのですか？（略）
山田　実は、ＡＩ研究の主流とニューラルネット研究は、以前は対立しているような関係性でした。（略）
ＡＩはトップダウンのアプローチで、ニューロ（ニューラルネット）はボトムアップのアプローチ。根本的な思想が違っていますから。
　パーセプトロンの時代、60年代はそういったことはなかったのですが、80年代には対立していたような印象です。ＡＩはロジック、ルールベースですので、ニューロとは相容れないものとして扱われ、ニューロへの風当たりは強かった。
　80年代のニューロは冬の時代でした。不思議なもので、ニューロとＡＩは夏と冬の時代がちょうど位相が半分ずれたような感じで、栄枯盛衰を繰り返していますね。

山田　ニューラルネットで意味が扱えたという話もありませんし、そもそも変数を扱えないというのが問題かなと。数値を直接扱えない、変数を扱えないというのは、かなり本質的な問題というか、限界なのではと。（略）
人間は、脳やニューラルネットワークという構造で記号的な計算を行っていて、構造と機能の間に大きなギャップがある。その間がどうなっていて、どうつながっているのかがわからない。そこをつなぐものがＡＩでつくれたらブレークスルーになるのでしょうけど、30年では出ないだろうと思っています。
（略）
第一次ブームくらいのとき、ミンスキーが「あなたのやっていることはこういうことだ」とある人に言われたという逸話があります。
　「夜道でおばあさんが落とし物を探している。道は二つに技分かれしていて、片方が街灯がついていて明るいけど、片方は真っ暗。そしておばあさんは街灯のある道で落とし物を探している。通りかかった人が心配しておばあさんに声をかける。落とし物は明るい道で落としたんですかと。おばあさんは、暗い道で落としたのだという。それならここでは落とし物は見つからないですよと教えるのですが、おばあさんは、だって暗い道では探せないんですもの、と返事をする。」
　この話を脳科学の人に言うと怒られる（笑）。明るい道じゃないと論文が書けないじゃないですかと。
　明るい道を探しても落とし物はないのはわかっているわけです。そこを研究しても真理に到達しないことはわかっているのだけど、いまある技術や数学では、明るい道しか研究できない。
　複雑系はいまの数学では解けないので、いまある数学で解析できる範囲で研究をするしかない。やれるのは全体の一部で、全体にはアタックできない。そしてその先には、決して強いＡＩは存在しない。ミンスキーは、別の分野の人にこれを言われてカチンときた。
鳥海　私たちが、「ＡＩなんて何もできてないじゃないか」と言われるとムッとするようなものですね（笑）。
山田　何でもできると思われてもイラッとしますが、何もできないと言われると怒りたくもなりますね（笑）。そのあたりは、正当に評価していただきたい。

強いAIの前に弱いAIでできること――松尾豊

松尾　私は、2005年からしばらく、スタンフォード大学に行っていたのですが、当時は「グーグルをつくった人は偉いな」というのが素直な感想でした。能力のある研究者がたくさんいて、自由に研究ができて、研究者に対する待遇もとてもよい。単純に、豊かなお昼ごはんが提供されるということだけでも、その差は大きい。
（略）
　私たちは研究をして、論文を書いてそれを発表して評価されたりされなかったりで、それが世の中に影響を与える頻度はとても少ない。ですが、グーグルで検索エンジンを開発し、具体的に使い勝手などをよくしている彼らは、直接世の中と結び付いていて、研究が実際に役立ち、なおかつ大きなお金を生んで、研究開発にそのお金が循環している。数年前までは同じスタンフォードで学んでいた人たちが、いつの間にかグーグルの役員になっていたり
（略）
情報系の世界というのは、単に研究をしていればよいという時代はすでに終わっているのではないかと、そう考えています。
　研究が何か成果を出し、それが産業界に移転されて、さらには大きなビジネスになるという直線的なモデルが、これまでの形でした。現在はそうではなくて、研究をベースとして何らかのビジネスに結び付き、そこでの利益から研究に再投資されるというサイクルをつくった者が勝つという時代に入っている。グーグルなどはそのよい例ですが、ビジネスはすでに研究そのものと同じ価値を持っていると考えるべきではないかと。（略）
　グーグルはディープマインドを買収していますが、あれは企業買収というよりも、実態はデミス・ハサビスという天才をヘッドハントしたと受け取るべきと思います。ピチャイはこれにより、自分の考えている方向でハサビスに研究をさせることができるわけです。そうして考えると、グーグルは巨大なラボであるといった見方もできてしまいます。お金を稼ぐということが、すなわち研究の一部だと、これからはそういった考えをするべきでしょう。

[関連記事]
kingfish.hatenablog.com
kingfish.hatenablog.com
kingfish.hatenablog.com
kingfish.hatenablog.com
kingfish.hatenablog.com