東大ら,新アルゴリズムで光NNを高速深層学習

東京大学と日本電信電話(NTT)は,脳の情報処理から得た着想を得た数学モデルの一種である深層ニューラルネットワークならびに物理系を計算過程に用いる物理ニューラルネットワーク(物理NN)に適した新たな学習アルゴリズムを考案し,その有効性を確認した(ニュースリリース)。

光の伝搬・干渉による光演算を利用したNN(光NN)は,低遅延性・低消費電力性・並列性を有し,そのため大幅な高速動作が理論的に可能で,脳の情報処理を模倣したニューロモルフィックデバイスの中でも特に注目されている。

深層NNの学習では,一般的に,誤差逆伝搬法(BP法)と呼ばれるアルゴリズムが用いられる。BP法では深層NN中の学習パラメータや非線形性,その微分値など,深層NNの情報の正確な把握が前提となっている。

特に光NNをはじめとする物理NNに対してBP法を適用するには,物理系上に構成された深層NNのすべての情報の把握,すなわち,高い精度での物理系の状態計測や物理シミュレーションによる微分応答の近似などが必要となり,より複雑な学習計算が要求される。

この複雑さのためBP法の物理系上での実現は一般に困難とされ,通常デジタル計算機を介して学習計算が実行されるが,結果的に学習計算の大部分をデジタル演算に依存する形となり,物理NNの拡張性ならびに有効性が大幅に制限されていた。

加えてその制約の多さから,ある種の物理NNとも捉えられる生物の脳の学習メカニズムとしても,BP法の妥当性は懐疑視されており,生物の脳を含めた,より一般的に物理NN上で実行可能な学習アルゴリズムの開発が関心の的になっていた。

研究では,物理系の情報の正確な把握を必要としない,物理NNに適した「拡張DFA法」と呼ばれるアルゴリズムを新たに開発した。提案法の学習における計算過程ではBP法では必要とされた物理系の状態計測や微分応答の物理シミュレーションによる近似は必要がない。

加えて,この計算は光回路をはじめとする物理系上で実行可能であり,推論だけでなく学習も物理系で効率的に計算できる。また,この学習手法が,様々な機械学習モデルに対しても適用可能であることを明らかにした。

さらに原理実証として,推論と学習の計算を光演算によってアシストする光NNを構築し,従来困難であった光NNの学習を光演算で効率的に実行可能であることを世界ではじめて示すとともに,ほかの様々な物理現象を活用する物理NNの中でも世界最高となる性能を実現した。

研究グループはこの成果により,今後顕在化すると予想されるAI向けコンピューティングの電力消費や演算時間の増大などの解決が期待されるとしている。

その他関連ニュース

  • 九大ら,世界のラボを結んで有機レーザー材料を発見
    九大ら,世界のラボを結んで有機レーザー材料を発見 2024年05月17日
  • 東工大ら,機械学習で光デバイスの材料探索支援 2024年04月01日
  • 神大,深層学習で脳機能画像からマウスの行動を識別 2024年03月22日
  • NVIDIA,計算機リソグラフィを生成AIで大幅高速化 2024年03月21日
  • 東京インスツルメンツ,染色体分析システムを発売
    東京インスツルメンツ,染色体分析システムを発売 2024年03月05日
  • 東北大,AI画像診断の医学的な妥当性に疑義 2024年02月28日
  • 立教大,フーリエ変換を使った画像認識手法を開発 2024年02月06日
  • SCREEN,基板向けAI検査計測ソリューションを設立 2024年01月29日