積分表現でニューラルネットを理解する(園田 翔 氏、FD研修会「人工知能と数学」)
OCAMI_math OCAMI_math
1.44K subscribers
3,549 views
113

 Published On Mar 15, 2024

大阪公立大学大学院理学研究科FD研修会 「人工知能と数学」2024年2月15日
https://www.omu.ac.jp/orp/ocami/activ...
講演者:園田 翔 氏(理化学研究所 革新知能統合研究センター・研究員)
講演タイトル:積分表現でニューラルネットを理解する
講演アブストラクト:ニューラルネットは今日の AI 技術を支える学習機械です. 数学的には,無数のニューロンを並列・縦列に接続したネットワーク構造が定める非線形関数です. 学習の手続きは自動化されているため,学習を通じて獲得されるパラメータや内部での情報処理の仕組みはよく分かっていません.積分表現理論は,このパラメータを数学的に解析するための強力なツールです.この方法の強みは,ニューラルネットが表す関数 f を分布関数 γ に対応付ける疑似逆作用素が,積分作用素として陽に書き下せることです.この逆作用素をリッジレット変換といいます.残念ながら,具体的なリッジレット変換が知られているネットワーク構成は限られていました.講演者らの最近の研究により,多様体上の全結合層や,群畳み込み層,形式的な深層ニューラルネットに対してリッジレット変換を系統的に導出できるようになりました.本講演では,ニューラルネットと積分表現理論の概要を説明し,リッジレット変換の自然な導出法について解説します.
講演スライド:https://www.omu.ac.jp/orp/ocami/activ...

大阪公立大学数学研究所(OCAMI)
https://www.omu.ac.jp/orp/ocami/

show more

Share/Embed