連載
» 2017年11月30日 11時30分 公開

Over the AI ―― AIの向こう側に(17):至宝の人工知能 〜問題に寄り添い、最適解をそっと教えてくれる (3/8)

[江端智一,EE Times Japan]

深層学習や強化学習は、なぜ「そのように動いたか」を説明できない

 仕事の現場においては、仕事の背景、ルール、ノウハウを、ロジカルに説明し、問題があればその問題点を明かにして、次のプロセスで改善させる ―― そういう学習方法の方が、優れているに決まっています ―― たとえ「神秘性」はなくとも

 実際、深層学習や強化学習は、制御分野、特に、超高度なリアルタイム性や安全性を要求される分野では、現在のところ、全く利用されていませんし、今後も利用される可能性は低いでしょう。

 理由は明快です。深層学習や強化学習は、なぜ「そのように動いたか」を説明できないからです。本連載の別の回「困惑する人工知能 〜1秒間の演算の説明に100年かかる!?」を読んでいただければ、その理由が分かるかと思います*)。人間だって、自分の行動をきちんと説明できる訳ではありませんが、それでも、(たとえ“後付け”であったとしても)「言い訳」を語れなければ、社会の構成員としては認められません

*)現在、この問題に対して、"Explainable Artificial Intelligence=説明可能な人工知能"の研究が盛り上がっています。

 個人的な意見ですが、ニューラルネットワークや強化学習で、知識を習得したAI技術を搭載したジェットコースターなんぞ、私は絶対に乗りません。

 しかし、最適化アルゴリズムによって制御されているジェットコースターなら、乗車しても良いと思っています。たとえ私がそのジェットコースターで事故死しても、家族にその理由を説明してもらえると思えるからです。

 もっとも、私の家族が、私を殺した「最適化アルゴリズム」の内容や、そのベースとなる数学のコンセプトを理解できるかどうかは、別問題ですが。

「最適化アルゴリズム」とは、つまり何なのか

 さて、「最適化アルゴリズム」を、私なりに定義すると、

  • 酷く複雑で大規模で面倒くさい問題に対して、その解答を導くもので
  • コンピュータプログラムとして記述可能なもので
  • (理屈の上ではともかく)現実にはコンピュータの計算能力の助けなくしては使えないもの

です。

 今回、この「最適化アルゴリズム」をカテゴリーで分類しようとしたのですが、表を作っても、あまり面白くありませんでした*)

*)線形計画、整数計画、非線型計画とか、離散系とか連続系とか、そんなところです。

 ですので、今回は、「最適化アルゴリズム」の著名なアプリケーションを羅列してみました。

 一見すると、「これって、そんなに難しい問題か?」と思えるかもしれませんが、皆さんも、これまでの人生で同じような問題で苦労してきたはずです。

  • 時間配分を無視して、つまらんスピーチをダラダラと続ける上司によって狂わされる、発表会タイムスケジュールの復旧方法
  • 結婚披露宴に、一度も出会ったことがない親戚を呼ぶために(両親からの強い圧力)、親しい友人の何人かを、席数の都合で切り捨てなければならない時の決断

 もっと極端な例では、

  • 仕事と私、どっちが大切なの!/なんだ!」と、その場限りのコスト計算しかできず、仕事を辞してしまった後の「『あなた』の価値の下落」を考慮しない、感情的な恋人との折り合い

 こうした問題は、それ自体解決方法が難しいのに加えて、もっと大規模なスケール(発表会が同時に複数進行しているとか、結婚式の正体客が1万人のオーダーとか)を想定してみれば、その困難性は明らかだと思います。

 しかし、「その問題の性格」に応じて「何とかしてみせる」のが、最適化アルゴリズムなのです。これは、「問題の性格」を全く教えずに、自動的に学習させる「強化学習」の対極に立つ手法と言えます。

Copyright© 2017 ITmedia, Inc. All Rights Reserved.

RSSフィード

All material on this site Copyright © 2005 - 2017 ITmedia Inc. All rights reserved.
This site contains articles under license from UBM Electronics, a division of United Business Media LLC.