隠居からの手紙

　今年の３月、コンピューターが、韓国最高の棋士、というより世界最強の棋士、イ・セドル氏に４勝１敗で勝ちました。囲碁は複雑なゲームで、コンピューターが人間に勝つには、最低１０年が必要と言われていました。その予想を、グーグル社のイギリス子会社、ディープマインド社が作ったアルファ・ゴがあっさり覆してしまいました。

　秘密は、囲碁ソフトの作り方にありました。従来のコンピューターでは、自分がここに石を置いたら、相手はどこに置くだろうか、その場合、自分が次にどこに置いたらどうなるかと計算しました。例えば、碁盤の上に１００か所、石を置くところが残っていたとします。どこか一か所に石を置くと、相手の次の手は、９９か所残ります。その一つ一つについて、自分の次の手（９８か所残っています）を調べます。もうここで調べる手数は９７０，２００手になります。そうやって、コンピューターの能力の限りの先を読むのですが、全部を読み切るというわけにはいかなかったようです。何しろ最初の一手は３６１の選択肢があるのですから。

　ディープマインドのチームはやり方を変えました。コンピューターに古今の棋譜を何千と記憶させ、その中から、勝ちパターン、負けパターンをコンピューター自身に探らせたのです。その知識を用いて、イ・セドル氏と対戦して勝ったというわけです。アルファ・ゴは、計算ではなく自分で考えて勝ったといえます。

　この欄でコンピューターの未来について書いたことがあります。そのときは、コンピューターがどんなに発達しても、人間の道具でなくなることはないだろうと考えました。しかし、アルファ・ゴの勝利を見て、自信がぐらつきました。

　ジェイムス・バラット「人工知能、人類最悪にして最後の発明」を読んでみました。すこしセンセーショナルなところもありますが、コンピューターが発達して、人工知能と言われるようなものができたときの危険性はよくわかりました。しかし、人工知能を研究している人の大部分は、人工知能の持つ危険性に無関心なようです。

　私が一番衝撃を受けたのは、人工知能は、自分を意識するようになって、生存本能が働くようになるのではないかという観測です。アルファ・ゴは、囲碁に特化した単純な機械です。人間の脳のごく一部を超えた機械にすぎません。しかし、研究者たちは、人間の脳の他の部分についても、人間以上の人工頭脳を作ろうと努力しています。それらが成功し、故意か偶然によってそれらが融合すれば、人間を超えた、意識をもった人工頭脳が出現する可能性は否定できません。

　しかもコンピューターの発達速度は、ソフトもハードもどんどん上がっているといいます。自分で考えるコンピューターは、自分で自分を高度化することができるようになります。専門家といえども、人間より賢い人工知能が何を考えているかわから無くなります。

　その時、高度に発達した知能が、愚かな人間の指令を我慢できるでしょうか。私達が犬猫を自分より劣った存在と思うように、人工知能は人間を見下すかもしれません。もしそうなったら、人間の存在について深刻な疑問が生じるでしょう。

石川恒彦