メディア
連載
» 2016年10月28日 11時30分 公開

Over the AI ――AIの向こう側に:困惑する人工知能 〜1秒間の演算の説明に100年かかる!? (5/8)

[江端智一,EE Times Japan]

「なんで?」を人工知能に説明させると……

 ここで、本連載の第2回「我々が求めるAIとは、碁を打ち、猫の写真を探すものではない」で登場した、コンピュータブレイン、ナンシーを使って説明します。

 ナンシーは、推論計算のプロセスを、入力値から出力値に至るまで、その処理を行ったの順番に説明することができます。しかし、あなたの疑問である『なんで、その結果となったのか』の『なんで』に対しては、説明ができないのです。

 ナンシーは、何も考えずに、プログラムされた通りのことをやっているだけだからです。ナンシーに上記のA+B=Cという「足し算」というプログラムが施されていれば、A=2、B=3という入力を与えられたナンシーは、C=5という値を出力するだけです。

 ナンシーは、あなたの疑問の『なんで』には説明はできませんが、その“人工知能技術”プログラムの計算プロセスを説明することはできます

 しかし、皮肉なことに、コンピュータの性能が上がれば上がるほど、その説明は、どんどん難しくなっていくのです。

 前回、私がAmazonで購入した5000円のコンピュータ「Raspberry PI3(ラズパイ3)」は、(私の試算で)1581MIPSの性能を持っています。これは1秒間に15億8000万回の計算ができることになります。

 もしナンシーを、ラズパイ3に実装して、ナンシーに「1秒間分の推論の計算プロセスを説明しろ」と命じたら、ナンシーは、15億8000万回の数値と関数の説明を開始することになります。

 早口で1回分(例えば「Aの初期値は10」)を2秒で口述したとして*)ざっくり31億6000万秒=100.26年を必要とします(31.6億秒÷3600秒÷24時間÷365日)。

*)非線形関数や微分積分のプロセスを、ナンシーがどうやって説明するのか、さっぱり分かりませんが。

 もし、私たちが、人間と同程度の振る舞いをする"人工知能技術"が欲しいのであれば、“人工知能技術”の推論結果に対する『なんで』を説明する“人工知能技術”が必ず必要となります。人間は理由なしに行動することができない生き物で、人間の世界において、『なんで』が登場しないコミュニケーションは、存在しないからです

 しかし、そうなると『なんで』を説明するその人工知能に対する『なんで』を説明する人工知能が……と、無限のループを描いて、もう、訳が分からなくなります。

 こうして考えると、人工知能と比べて、人間の知能は、本当にすごいです。

上司:「なんで、月曜日の朝が締切の資料が出来上がっていないんだ!」
(意訳:「『土日に働け』と言ったハズだ」)

部下:「いや、だって、週末は友達とスキーの約束があったし、作らなければならない資料の量が多すぎて、どっちみち間に合わないと思ったからです」
(意訳:「そもそも命令がムチャだろうが」)

と『なんで』に対して、しっかりと回答ができる「人間知能」のなんと素晴らしいことか。

 少なくともこの上司は、この部下を怒鳴りつけるか、どっかの部署に飛ばすか、それに対してこの部下は、この上司のパワハラを訴えるか、―― ともあれ、次のアクションに進むことができます。

 いずれにしても、黙りこくるか、1秒間の推論結果の言い訳に100年もかかるような、そんな知能なんか ―― 私はいらない

 ともあれ、この人工知能の『なんで』の問題が未解決であるために、これまで、人工知能を試したいと考える若手研究員の志が、どれだけつぶされてきたのか分かりません(お忘れかもしれませんが、私は第2次人工知能ブームの時には、夢と希望にあふれる若手研究員だったのです)。

 そして、今なお、私はさまざまなワークショップや研究発表会で、この『なんで』の問題に苦しめられている研究員やエンジニアの話(泣き言)を、リアルタイムで聞いています。(これは、週末研究員ではなく、平日研究員としての話も含まれるので、詳しくはお話できませんが)、とにかく、このネタだけで、私たちは、1滴のアルコールもなく、大いに盛り上がることができるのです。

 そして現実に ―― 25年以上も前に、1人で「人工知能」のチームを立ち上げ、そして、その後、自分の研究を進めるために(または、誰からも邪魔されないために)「人工知能」という看板を下げ、「人工知能」という言葉を使うことを封印した ―― そういう研究員を、私は、少なくとも1人知っています。


 では、ここからは後半になります。

 この連載の後半は、「私の身の回りの出来事」を使った、「数式ゼロ」のAI解説になります。

Copyright © ITmedia, Inc. All Rights Reserved.

RSSフィード

公式SNS

All material on this site Copyright © ITmedia, Inc. All Rights Reserved.
This site contains articles under license from AspenCore LLC.