唐木田亮 (Karakida Ryo) - マイポータル

基本情報

所属: 国立研究開発法人産業技術総合研究所人工知能研究センター主任研究員

学位: 博士(科学)(東京大学)

研究者番号: 30803902
J-GLOBAL ID: 201801000756734383
researchmap会員ID: B000323029

外部リンク: https://sites.google.com/view/ryokarakida/

研究キーワード

研究分野

学歴

2017年4月 - 現在

産業技術総合研究所
2008年4月 - 2017年3月

東京大学
2005年4月 - 2008年3月

長野県長野高等学校

委員歴

2022年 - 現在

神経回路学会, 選考委員
2023年10月 - 2024年10月

日本物理学会領域11運営委員
2024年3月

Program Committee of Machine Learning Summer School (MLSS) 2024
2022年

IBIS2022, プログラム委員
2020年

IBIS2020, プログラム委員

受賞

2017年

論文賞, 神経回路学会

唐木田亮
2016年6月

学生奨励賞, 人工知能学会全国大会

唐木田亮
2016年4月

Best Student Paper Award, 24th European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning（ESANN2016）

唐木田亮
2015年11月

学生最優秀プレゼンテーション賞, IBIS2015

唐木田亮
2015年3月

Young Researcher Award, IEEE CISJ
2014年8月

奨励賞, 日本神経回路学会大会

唐木田亮

論文

Attention in a Family of Boltzmann Machines Emerging From Modern Hopfield Networks.

Toshihiro Ota, Ryo Karakida

Neural Computation 35(8) 1463-1480 2023年8月
Deep learning in random neural fields: Numerical experiments via neural tangent kernel.

Kaito Watanabe, Kotaro Sakamoto, Ryo Karakida, Sho Sonoda, Shun-ichi Amari

Neural Networks 160 148-163 2023年3月
Understanding Gradient Regularization in Deep Learning: Efficient Finite-Difference Computation and Implicit Bias.

Ryo Karakida, Tomoumi Takase, Tomohiro Hayase, Kazuki Osawa

ICML 15809-15827 2023年
MLP-Mixer as a Wide and Sparse MLP.

Tomohiro Hayase, Ryo Karakida

CoRR abs/2306.01470 2023年
Learning Curves for Continual Learning in Neural Networks: Self-Knowledge Transfer and Forgetting

International Conference on Learning Representations 1-27 2022年4月査読有り
Pathological Spectra of the Fisher Information Metric and Its Variants in Deep Neural Networks

Ryo Karakida, Shotaro Akaho, Shun-ichi Amari

NEURAL COMPUTATION 33(8) 2274-2307 2021年7月
Self-paced data augmentation for training neural networks

Tomoumi Takase, Ryo Karakida, Hideki Asoh

NEUROCOMPUTING 442 296-306 2021年6月
The Spectrum of Fisher Information of Deep Networks Achieving Dynamical Isometry

Tomohiro Hayase, Ryo Karakida

24TH INTERNATIONAL CONFERENCE ON ARTIFICIAL INTELLIGENCE AND STATISTICS (AISTATS) 130 334-+ 2021年査読有り
Universal statistics of Fisher information in deep neural networks: mean field approach*

Ryo Karakida, Shotaro Akaho, Shun-ichi Amari

JOURNAL OF STATISTICAL MECHANICS-THEORY AND EXPERIMENT 2020(12) 2020年12月
Understanding Approximate Fisher Information for Fast Convergence of Natural Gradient Descent in Wide Neural Networks

Ryo Karakida, Kazuki Osawa

Conference on Neural Information Processing Systems (NeurIPS) 2020年12月査読有り筆頭著者
Collective dynamics of repeated inference in variational autoencoder rapidly find cluster structure.

Yoshihiro Nagano, Ryo Karakida, Masato Okada

Scientific reports 10(1) 16001-16001 2020年9月29日
Universal Statistics of Fisher Information in Deep Neural Networks: Mean Field Approach

Ryo Karakida, Shotaro Akaho, Shun-ichi Amari

AISTATS2019 89 2019年4月査読有り
Fisher Information and Natural Gradient Learning of Random Deep Networks

Shun-ichi Amari, Ryo Karakida, Masafumi Oizumi

AISTATS2019 89 694-702 2019年4月査読有り
The Normalization Method for Alleviating Pathological Sharpness in Wide Neural Networks

Ryo Karakida, Shotaro Akaho, Shun-ichi Amari

ADVANCES IN NEURAL INFORMATION PROCESSING SYSTEMS 32 (NIPS 2019) 32 2019年
Information Geometry for Regularized Optimal Transport and Barycenters of Patterns

Shun-ichi Amari, Ryo Karakida, Masafumi Oizumi, Marco Cuturi

Neural Computation 31(5) 827-848 2019年査読有り
Statistical Mechanical Analysis of Learning Dynamics of Three-Layered Perceptron with Multiple Output Units

Yuki Yoshida, Ryo Karakida, Masato Okada, Shun-ichi Amari

Journal of Physics A 52(18) 2019年査読有り
Statistical Neurodynamics of Deep Networks: Geometry of Signal Spaces

Shun-ichi Amari, Ryo Karakida, Masafumi Oizumi

10(4) 322-336 2018年8月22日査読有り
深層生成モデルにおける認識－生成ループのダイナミクスと内部表現

長野祥大, 唐木田亮, 岡田真人

日本物理学会講演概要集 73 2932-2932 2018年
Dynamics of learning in MLP: Natural gradient and singularity revisited

Shun-Ichi Amari, Tomoko Ozeki, Ryo Karakida, Yuki Yoshida, Masato Okada

Neural Computation 30(1) 1-33 2018年1月1日査読有り
Concept Formation and Dynamics of Repeated Inference in Deep Generative Models

Yoshihiro Nagano, Ryo Karakida, Masato Okada

abs/1712.04195 2017年12月12日

もっとみる

主要なMISC

深層神経回路網の幾何II ～統計神経力学とのつながり～

唐木田亮

数理科学 58(11) 2020年筆頭著者

もっとみる

講演・口頭発表等

継続学習における自己知識転移と忘却

唐木田亮

第51回統計的機械学習セミナ－ (オンライン) 2022年10月7日招待有り
Neural tangent kernel regimeにおける継続学習の学習曲線

唐木田亮

日本応用数理学会2022年度年会 2022年9月8日招待有り
カーネル法の統計力学的解析とそれによる継続学習の評価

唐木田亮

統計物理と統計科学のセミナー 2022年6月28日招待有り
統計神経力学による深層学習の解析

唐木田亮

第3回力学系の視点からの脳・神経回路の理解 2021年12月4日招待有り
Improving the trainability of deep neural networks: A perspective from the infinite width limit

Ryo Karakida

4th international conference on econometrics and statistics 2021年6月25日招待有り
Understanding Approximate Fisher Information for Fast Convergence of Natural Gradient Descent in Wide Neural Networks

Ryo Karakida

Math Machine Learning Seminar MPI MIS + UCLA 2021年3月18日招待有り
幅無限大深層モデルにおける近似自然勾配法の収束解析

唐木田亮, 大沢和樹

日本物理学会第76回年次大会 2021年3月15日
Analysis of Fisher information and natural gradient descent in infinitely wide neural networks

Ryo Karakida

Workshop on Functional Inference and Machine Intelligence (FIMI) 2021年3月2日招待有り
Understanding Approximate Fisher Information for Fast Convergence of Natural Gradient Descent in Wide Neural Networks

Ryo Karakida

NeurIPS 2020 2020年12月11日招待有り
深層モデルにおいて高速に収束する近似自然勾配法の理論解析

唐木田亮, 大沢和樹

IBIS2020 2020年11月11日
深層学習の数理: ランダム行列と統計力学的視点

唐木田亮

Random Matrices, Free Probability, and Machine Learning ワークショップ 2020年10月30日招待有り
深層学習の数理: 統計力学的アプローチ

唐木田亮

ディープラーニングと物理学2020 オンライン 2020年6月18日招待有り
Fisher Information of Deep Neural Networks With Random Weights

Ryo Karakida

11th ICSA international conference 2019年12月21日招待有り
Fisher information matrix of wide neural networks and effect of batch normalization

Ryo Karakida

Neural Net Theory Workgroup Seminar (EPFL) 2019年11月12日招待有り
Information Geometry of Entropy-Regularized Optimal Transport

Ryo Karakida

ICIAM Minisymposium 2019年6月17日
深層ニューラルネットワークにおけるFisher情報行列の普遍性

唐木田亮, 赤穂昭太郎, 甘利俊一

IBIS2018 2018年11月5日
深層ニューラルネットワークの数理: 平均場理論の視点

唐木田亮

広島市立大学セミナー 2018年10月16日
エントロピー正則化付き最適輸送問題とその情報幾何

唐木田亮

広島市立大学セミナー 2018年10月15日
機械学習から見たニューラルネットワークの数理

唐木田亮

東京理科大学脳学際研究部門第2回公開シンポジウム "脳のサイエンス" 2018年10月東京理科大学脳学際研究部門招待有り
深層ニューラルネットワークにおけるFisher情報行列の普遍性

唐木田亮

第30回RAMPシンポジウム (RAMP2018) 2018年10月招待有り

もっとみる

担当経験のある科目(授業)

2017年11月 - 現在

確率・統計 (AI・機械学習入門) (東京大学工学部精密工学科)
2022年12月

非線形物理学特論I (京都大学)
2022年8月

データ科学特論 II: 深層学習の数理 (集中講義) "ランダム神経回路の数理" (大阪大学)

共同研究・競争的資金等の研究課題

線形性と非線形性の協同による可解なランダム神経回路の深化

日本学術振興会科学研究費助成事業若手研究 2023年4月 - 2028年3月

唐木田亮
深層転移学習と継続学習を組み合わせた筋電ベースヒューマンインタフェースの開発

日本学術振興会科学研究費助成事業基盤研究(B) 2023年4月 - 2027年3月

叶賀卓, 唐木田亮
深層学習の数理と応用

日本学術振興会科学研究費助成事業学術変革領域研究(A) 2022年6月 - 2027年3月

田中章詞, 唐木田亮, 瀧雅人
ランダム深層ニューラルネットの数理的基盤の構築とその学習への応用

日本学術振興会科学研究費助成事業若手研究若手研究 2019年4月 - 2023年3月

唐木田亮
大自由度ニューラルネットワークの学習に潜む幾何学的構造の解析と信頼性評価への展開

科学技術振興機構(JST) ACT-X 数理・情報のフロンティア 2019年10月 - 2022年3月

唐木田亮
階層モデルの幾何学に基づく深層学習の理論構築と制御

日本学術振興会科学研究費助成事業研究活動スタート支援研究活動スタート支援 2017年8月 - 2019年3月

唐木田亮
感覚神経回路における同期発火の神経機構とその情報科学的意義の解明

日本学術振興会科学研究費助成事業特別研究員奨励費特別研究員奨励費 2014年4月 - 2017年3月

唐木田亮

社会貢献活動

博士課程の今：学生だった立場から

講師

宮崎大学キャリア支援講演会 2018年1月22日

唐木田亮

基本情報

研究キーワード

研究分野

学歴

委員歴

受賞

論文

主要なMISC

講演・口頭発表等

担当経験のある科目(授業)

共同研究・競争的資金等の研究課題

社会貢献活動

メニュー

共著者の一覧