AzureでAIチップにアクセス可能、機械学習を高速化：英Graphcoreのアクセラレーター

　Microsoftは、同社のクラウドプラットフォーム「Azure」の顧客に対し、英国の新興企業GraphcoreのAI（人工知能）アクセラレーターチップ「Colossus Intelligence Processing Unit（IPU）」の利用提供を開始した。

GraphcoreのAIアクセラレーターチップ「Colossus IPU」 画像：Graphcore

　大手クラウドサービスプロバイダーが、新興企業のAIアクセラレーターチップでデータを処理する機会を顧客に提供したのはこれが初めてで、数あるAIチップスタートアップの中から選ばれたことでGraphcoreは大きなチャンスを手にしたと言える。

　MicrosoftとGraphcoreは2年間、Graphcore IPU向けのクラウドシステムの開発と、Graphcore IPUの視覚処理および自然言語処理（NLP：Natural Language Processing）モデルの強化に共同で取り組んできた。NLPモデルの中でも、Googleの「BERT（Bidirectional Encoder Representations from Transformers）」は、Googleを含む検索エンジンで広く採用されている技術だ。

　Graphcore IPUプロセッサカード（それぞれに1組のColossusアクセラレーターが搭載されている）を8枚使うと、BERTを56時間でトレーニングできるという。これは、機械学習ライブラリ「PyTorch」でGPUを使用する場合と同等レベルで、「TensorFlow」でGPUを使う場合よりも高速だという。Graphcoreは、「BERTの推論スループットが3倍になり、レイテンシ（待機時間）が20％向上する」と述べている。

BERTのトレーニング時間の比較 出典：Graphcore（クリックで拡大）

BERTによる推論時間の比較 出典：Graphcore（クリックで拡大）

　Graphcoreに対する、過剰ともいえるほどの期待値の大きさを考えると（同社の評価額は17億米ドルである）、この性能向上はかなり控えめに発表されているように思える。公表されている性能向上が、Colossus IPU向けにモデルを最適化したいと顧客に思わせるほどの魅力があるかどうかはまだ分からない。

　Graphcoreは、さらに大きな性能向上を実現する高性能モデルも発表している。

　画像処理モデル「ResNext」の推論スループットは、消費電力が同等のGPUソリューションと比べて3.4倍で、レイテンシは18分の1だという。ResNextは、グループ化畳み込み（grouped convolution）と呼ばれる技術を使用して、畳み込みフィルターをより小さな分離可能なブロックに分割し、パラメータ数を削減しながら精度を高めている。Graphcoreは、「この手法は、チップの大規模並列プロセッサアーキテクチャと柔軟で高スループットのメモリによって、データブロックを何千もの完全に独立した処理スレッドにマッピングできることから、IPUに適している」と説明している。

「ResNet-101」の推論では、IPUが、スループットおよび低遅延の点でGPUを上回った 出典：Graphcore（クリックで拡大）

　Graphcoreは、金融市場のモデリングに使用される新しい確率的アルゴリズムである「マルコフ連鎖モンテカルロ（MCMC）」ベースのモデルでも高い成果を出している。Graphcoreによると、この種のモデルは、かつては、計算コストが掛かり過ぎるため金融業界では利用できないと考えられていたという。金融業界における、GraphcoreのIPUのアーリーアダプターは、最適化したMCMCモデルをIPUを使って4.5分で学習させることができたという。既存のチップでは2時間かかっていたので、約26倍、高速化を実現できたとする。

【翻訳：滝本麻貴、編集：EE Times Japan】