研究紹介

数理モデルのように深層学習をデザインする

深層学習は万能近似性を持ち,学習データから自動的に数理モデルを構築できます.しかし,単にデータを補間するだけなら,フーリエ級数展開や放射基底関数ネットワークでも可能です.深層学習がこれらの手法と異なるのは,アーキテクチャをデザインすることで学習前にさまざまな制約を与え,学習される方向を定める帰納的バイアスを導入できる点にあります.

科学技術機械学習

科学技術機械学習(scientific machine learning)とは,解析力学や微分幾何学,それらを基にした科学技術計算の技術と機械学習を融合する研究です.データからの高精度な力学系のモデル化,計算機シミュレーションにおける物理現象の保証と高速化,データからの物理法則の発見などを可能にします.

幾何学的深層学習

幾何学的深層学習(geometric deep learning)とは,学習対象が持つ幾何学的構造に着目した深層学習です.例えば,画像には平行移動対称性があり,畳み込みニューラルネットワークはこの性質を保証するように設計されています.この他にも,データの分布が持つトポロジーや計量に注目すれば,より意図通りにデータを生成・編集することができます.単なる性能の向上に留まらず,信頼性の高い結果を得ることができます.

数理的構造を考慮した生成モデル

ベイズ深層学習

ベイズ深層学習(Bayesian deep learning)とは,ベイズ的モデル化に基づいて深層学習を設計する手法です.なかでも深層生成モデルは,データ間の因果関係や依存関係をベイジアンネットワークというグラフ形式で表し,その関係を深層学習で実装したものです.いずれも,出力結果の根拠の可視化,意思決定の信頼性(不確実性)の定量化,小規模データの効率的な解析などが可能になります.また生成AIの基盤技術の一部でもあります.

深層生成モデル

不確実性定量化

その他のテーマ

上記以外にも,深層学習の構造や学習法とデータに対して,適切な制約や補助を与える研究を実施しています.