横田理央 (Rio Yokota) - マイポータル

基本情報

所属: 東京科学大学総合研究院スーパーコンピューティング研究センター教授
: 特定国立研究開発法人理化学研究所計算科学研究センター　AI for Science基盤プラットフォーム部門　AI for Science基盤モデル研究チームチームプリンシパル
: 国立情報学研究所大規模言語モデル研究開発センター科学主幹

学位: 博士（工学）(慶應義塾大学)

研究者番号: 20760573
J-GLOBAL ID: 200901079803542280
researchmap会員ID: 5000097684

外部リンク: http://www.rio.scrc.iir.isct.ac.jp/jp/index.html

研究キーワード

研究分野

経歴

2025年4月 - 現在

特定国立研究開発法人理化学研究所, 計算科学研究センター AI for Science基盤プラットフォーム部門 AI for Science基盤モデル研究チーム, チームプリンシパル
2024年10月 - 現在

東京科学大学, 総合研究院スーパーコンピューティング研究センター, 教授
2024年4月 - 現在

国立情報学研究所, 大規模言語モデル研究開発センター, 科学主幹
2023年1月 - 2024年9月

東京工業大学, 学術国際情報センター, 教授
2015年4月 - 2022年12月

東京工業大学, 学術国際情報センター, 准教授
2011年9月 - 2015年3月

アブドゥラ王立科学技術大学, 応用数学・情報工学科, 研究員
2010年9月 - 2011年8月

ボストン大学, 機械工学科, ポスドク研究員
2009年2月 - 2010年8月

ブリストル大学, 数学科, ポスドク研究員

学歴

2005年4月 - 2009年3月

慶應義塾大学大学院, 理工学研究科, 開放環境科学専攻博士課程
2003年4月 - 2005年3月

慶應義塾大学大学院, 理工学研究科, 開放環境科学専攻修士課程
1997年4月 - 2003年3月

慶應義塾大学, 理工学部, 機械工学科

委員歴

105

2025年 - 2025年

International Conference on Parallel Architectures and Compilation Techniques (PACT 2025), publicity chair
2025年 - 2025年

The International Conference for High Performance Computing, Networking, Storage and Analysis (SC 2025), proceedings vice-chair, program committee, AI4S committee
2025年 - 2025年

Conference on Neural Information Processing Systems (NeurIPS 2025), reviewer
2025年 - 2025年

IEEE International Conference on Cluster Computing (IEEE CLUSTER 2025), track co-chair
2025年 - 2025年

International Conference on Machine Learning (ICML 2025), reviewer
2025年 - 2025年

ISC High Performance (ISC 2025), program committee
2025年 - 2025年

Platform for Advanced Scientific Computing (PASC 2025), domain co-chair
2025年 - 2025年

39th IEEE International Parallel and Distributed Processing Symposium, (IPDPS 2025), program committee, best OSS judge
2024年 - 2024年

The IEEE / CVF Computer Vision and Pattern Recognition Conference (CVPR 2024), reviewer
2024年 - 2024年

38th Conference on Neural Information Processing Systems (NeurIPS 2024), reviewer
2024年 - 2024年

The 12th International Conference on Learning Representations (ICLR 2024), reviewer
2024年 - 2024年

The International Conference for High Performance Computing, Networking, Storage and Analysis (SC 2024), poster, ML track, AI4S/TPC WS, LLMs for HPC BoF
2024年 - 2024年

International Conference on Preconditioning Techniques for Scientific and Industrial Applications, (Precond 2024), program committee
2024年 - 2024年

38th IEEE International Parallel and Distributed Processing Symposium, (IPDPS 2024), track co-chair
2024年 - 2024年

ISC High Performance (ISC 2024), posters chair
2024年 - 2024年

The 30th International Conference on Parallel Processing (Euro-Par 2024), program committee
2024年 - 2024年

ACM International Symposium on High-Performance, Parallel and Distributed Computing (HPDC 2024), program committee
2024年 - 2024年

SC Asia (SCA 2024), program committee
2024年 - 2024年

Platform for Advanced Scientific Computing (PASC 2024), program committee
2024年 - 2024年

SIAM Conference on Linear Algebra (LA24), scientific committee

もっとみる

受賞

2009年

ACM Gordon Bell賞（価格性能部門）

論文

196

Loss and Optimizer as Two Essential Mechanisms Behind Knowledge Distillation

Satoki Ishikawa, Sameer Satish Deshmukh, Sakina Fatima, Takumi Honda, Rio Yokota

ICML Workshop HiLD 2026年7月査読有り
Monotonic and Non-Monotonic Length-Performance Relationships in Reasoning RL

Daisuke Nohara, Taishi Nakamura, Rio Yokota

ICML 2026 Workshop AdaptFM 2026年7月査読有り
PowerCLIP: Powerset Alignment for Fine-Grained Contrastive Pre-Training

Masaki Kawamura, Nakamasa Inoue, Rintaro Yanagi, Hirokatsu Kataoka, Rio Yokota

IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2026年6月査読有り
Building Effective Japanese Medical LLMs with an Open Recipe for Domain Adaptation through Continued Pre-training

International Conference on Language Resources and Evaluation (LREC) 10405-10423 2026年5月査読有り
Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks

Taishi Nakamura, Satoki Ishikawa, Masaki Kawamura, Takumi Okamoto, Daisuke Nohara, Jun Suzuki, Rio Yokota

International Conference on Learning Representations (ICLR) 2026年4月査読有り
Qwen3-Swallow: Continual Pre-Training of Japanese–English Thinking LLMs with Megatron-LM

Kazuki Fujii, Yukito Tajima, Masaki Kawamura, Sakae Mizuki, Taishi Nakamura, Hinari Shimada, Masanari Ohi, Taihei Shiotani, Koshiro Saito, Takumi Okamoto …

GPU Technology Conference, San Jose 2026年3月査読有り
Swallow LLM: Continual Pre-Training and RL for Sovereign AI

Kazuki Fujii, Rio Yokota

GPU Technology Conference (GTC) 2026年3月査読有り
Tensor-Core-Optimized Strategies for BLR × Tall-Skinny Matrix Multiplication in BEM

Akihiro Ida, Kazuya Goto, Rio Yokota, Tasuku Hiraishi, Toshihiro Hanawa, Takeshi Iwashita, Masatoshi Kawai, Satoshi Ohshima, Tetsuya Hoshino

153-164 2026年1月25日査読有り
FedPM: Federated Learning Using Preconditioned Mixing of Local Parameters

Hiro Ishii, Kenta Niwa, Hiroshi Sawada, Akinori Fujino, Noboru Harada, Rio Yokota

The 40th Annual AAAI Conference on Artificial Intelligence 2026年1月査読有り
A Study on the Performance and Usability of Managed Memory and Unified Memory for Accelerating Numerical Calculation Program

Satoshi Ohshima, Akihiro Ida, Masatoshi Kawai, Takeshi Fukaya, Rio Yokota

41-48 2025年12月15日査読有り
Variational Learning Finds Flatter Solutions at the Edge of Stability

2025年12月2日査読有り
Masked Gated Linear Unit

Yukito Tajima, Nakamasa Inoue, Yusuke Sekikawa, Ikuro Sato, Rio Yokota

2025年12月査読有り最終著者
Leveraging High-Resource English Corpora for Cross-lingual Domain Adaptation in Low-Resource Japanese Medicine via Continued Pre-training

EMNLP Findings 11469-11488 2025年11月1日査読有り
Building Instruction-Tuning Datasets from Human-Written Instructions with Open-Weight Large Language Models

Youmi Ma, Sakae Mizuki, Kazuki Fujii, Taishi Nakamura, Masanari Ohi, Hinari Shimada, Taihei Shiotani, Koshiro Saito, Koki Maeda, Kakeru Hattori …

Conference on Language Modeling (COLM) 2025年10月査読有り
Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks

Taishi Nakamura, Satoki Ishikawa, Masaki Kawamura, Takumi Okamoto, Daisuke Nohara, Jun Suzuki, Rio Yokota

ICML 2025 2nd AI for Math Workshop 2025年7月査読有り
Lion Cub: Minimizing Communication Overhead in Distributed Lion

Satoki Ishikawa, Tal Ben-Nun, Brian Van Essen, Rio Yokota, Nikoli Dryden

ICML 2025 Workshop TTODLer-FM 2025年7月査読有り
Scaling Large-scale GNN Training to Thousands of Processors on CPU-based Supercomputers

Chen Zhuang, Lingqi Zhang, Du Wu, Peng Chen, Jiajun Huang, Xin Liu, Rio Yokota, Nikoli Dryden, Toshio Endo, Satoshi Matsuoka …

57-72 2025年6月8日査読有り
Improving LoRA with Variational Learning.

Bai Cong, Nico Daheim, Yuesong Shen, Rio Yokota, Mohammad Emtiyaz Khan, Thomas Möllenhoff

CoRR abs/2506.14280 2025年6月
On the Interplay Between Precision, Rank, Admissibility, and Iterative Refinement for Hierarchical Low-Rank Matrix Solvers

Thomas Spendlhofer, Qianxiang Ma, Yasuhiro Matsumoto, Rio Yokota

ISC High Performance 2025年6月査読有り
Rewriting Pre-Training Data Boosts LLM Performance in Math and Code.

abs/2505.02881 2025年5月査読有り

もっとみる

MISC

大規模言語モデルの強化学習による効率的な論理推論

野原大輔, 中村泰士, 横田理央

情報処理学会全国大会 2026年3月
視覚・言語モデルにおける日本語OCR性能の向上

安田俊吾, 横田理央

情報処理学会全国大会 2026年3月
One-Shot NASによるBERTのモデル圧縮

岡本拓己, 横田理央

人工知能学会全国大会 (第38回) 2024年5月
継続事前学習による日本語に強い大規模言語モデルの構築

藤井一喜, 中村泰士, Mengsay Loem, 飯田大貴, 大井聖也, 服部翔, 平井翔太, 水木栄, 横田理央, 岡崎直観

言語処理学会第30回年次大会 2024年3月
大規模言語モデルの日本語能力の効率的な強化: 継続事前学習における語彙拡張と対訳コーパスの活用

水木栄, 飯田大貴, 藤井一喜, 中村泰士, Mengsay Loem, 大井聖也, 服部翔, 平井翔太, 横田理央, 岡崎直観

言語処理学会第30回年次大会 2024年3月
Swallowコーパス: 日本語大規模ウェブコーパス

岡崎直観, 服部翔, 平井翔太, 飯田大貴, 大井聖也, 藤井一喜, 中村泰士, Mengsay Loem, 横田理央, 水木栄

言語処理学会第30回年次大会 2024年3月
大規模言語モデルの構造探索

岡本拓己, 横田理央

情報処理学会全国大会 2024年3月
大規模言語モデルの分散並列学習

藤井一喜, 横田理央

情報処理学会全国大会 2024年3月
継続学習を用いた効率の良いマルチリンガル・マルチエキスパートモデルの開発

中村泰士, 横田理央

情報処理学会全国大会 2024年3月
Visual SLAM を目的とした深度の一貫性を考慮した密なバンドル調整

大川快, 櫻田健, 横田理央

CVIM 2024年1月研究会 2024年1月
マルチプロセス実行によるGPU演算性能向上への試み

大島聡史, 伊田明弘, 河合直聡, 深谷猛, 横田理央, 山崎市太郎

計算工学講演会論文集(CD-ROM) 29 2024年
超解像事前学習における核心的要素の解明

大谷豪, 田所龍, 片岡裕雄, 井上中順, 横田理央, 青木義満

ViEW2023 2023年12月
Two-way coupled simulation of quantum turbulence and normal-fluid turbulence in superfluid helium-4

Hiromichi Kobayashi, Satoshi Yui, Makoto Tsubota, Tomokazu Saito, Rio Yokota

APS DFD 76th Annual Meeting of the Division of Fluid Dynamics 2023年11月
超流動ヘリウム4の量子乱流:常流体乱流による渦糸バンドルの形成

湯井悟志, 小林宏充, 坪田誠, 齋藤智和, 横田理央

日本物理学会第78回年次大会 2023年9月
Two-phase flow of quantum turbulence and normal-fluid turbulence in superfluid helium-4

Hiromichi Kobayashi, Satoshi Yui, Makoto Tsubota, Rio Yokota

ERCOFTAC Symposium on Engineering Turbulence Modeling and Measurements (ETMM) 2023年9月
Vortex-Filament Bundle Induced by Normal-Fluid Turbulence in Turbulent Superfluid Helium-4

Satoshi Yui, Hiromichi Kobayashi, Makoto Tsubota, Tomokazu Saito, Rio Yokota

International Symposium on Quantum Fluids and Solids (QFS) 2023年8月
Vortex-filament bundle induced by normal-fluid turbulence in turbulent superfluid helium-4

Hiromichi Kobayashi, Satoshi Yui, Makoto Tsubota, Tomokazu Saito, Rio Yokota

International Symposium on Quantum Fluids and Solids (QFS) 2023年8月
ニュートンフラクタル画像による事前学習効果

近江俊樹, 中村凌, 片岡裕雄, 井上中順, 横田理央

情報処理学会全国大会 2023年3月
深層学習における勾配の前処理法に関する検討

石川智貴, 横田理央

情報処理学会全国大会 2023年3月
量子渦計算の高速多重極展開法を用いた高速化

齋藤智和, 横田理央

情報処理学会全国大会 2023年3月

もっとみる

書籍等出版物

巨大行列とAI

横田理央 (担当:分担執筆, 範囲:巨大行列とAI)

数学セミナー, Vol. 59, No. 2, pp. 29-33 2020年2月
スーパーコンピューティングコンテスト2019

横田理央 (担当:分担執筆, 範囲:スーパーコンピューティングコンテスト2019)

数学セミナー, Vol. 59, No. 1, pp. 44-49 2020年1月
High Performance Parallelism Pearls

YOKOTA Rio (担当:共編者(共編著者), 範囲:N-body methods on Xeon Phi coprocessors)

Morgan Kaufmann 2014年11月 (ISBN: 9780128021187)
GPU Computing Gems

Rio Yokota, Lorena Barba (担当:分担執筆, 範囲:Treecode and fast multipole method for N-body simulation with CUDA)

Morgan Kaufmann 2011年 (ISBN: 0123849888)

講演・口頭発表等

O(N)で並列性の高い密行列のLU分解

横田理央

RIMS 研究集会「数値解析が拓く次世代情報社会～エッジから富岳まで～」 2022年12月招待有り
Matrices in Deep Neural Networks and How to Compute Them in Parallel

Rio Yokota

IEEE CLUSTER 2022 2022年9月9日招待有り
人工画像を用いたVision Transformerの大規模事前学習

横田理央

社会的課題解決型データサイエンス・AI研究推進体シンポジウム 2022年9月招待有り
人工画像を用いたVision Transformerの大規模事前学習

横田理央

DENSO IT LAB x TOKYO TECH Discussion Night in MIRU 2022年7月招待有り
大規模並列深層学習の基礎

横田理央

Nvidia HPC Weeks, (基調講演) 2021年10月招待有り
Approximations of Natural Gradient Descent in Distributed Training

Rio Yokota

INFORMS Annual Meeting Session: Beyond first order methods in machine learning systems I 2021年10月招待有り
階層的低ランク近似法に関するレビュー

横田理央

第40回計算数理工学フォーラム 2021年9月招待有り
Overview of structured low-rank approximation methods

Rio Yokota

IUTAM Symposium on Computational Methods for Large-Scale and Complex Wave Problems 2021年6月招待有り
スパコンを用いた大規模並列分散深層学習

横田理央

IBISML 情報論的学習理論とコンピューティング基礎 2021年3月招待有り
Overview of Distributed Memory Parallelism in Deep Learning

Rio Yokota

2020年12月招待有り
深層学習におけるヘッセ行列, フィッシャー行列, 共分散行列の高速近似解法

横田理央

ATマイクロワークショップ 2020年10月招待有り
Distributed Deep Learning with Second Order Information

Rio Yokota

SPCL_Bcast(COMM_WORLD) 2020年10月招待有り
二次最適化を用いた巨大な言語モデルの学習およびFRNNを用いたプラズマ挙動予測

横田理央

ABCI グランドチャレンジ 2019 成果発表会 2020年2月招待有り
二次最適化を用いたImageNetの大規模分散深層学習

横田理央

精密工学会画像応用技術専門委員会, 第5回定例研究会「人工知能・データサイエンス」 2020年1月招待有り
Degree of Approximation and Overhead of Computing Curvature, Information, and Noise Matrices

Rio Yokota

2020年招待有り
Effect of Mixed Precision Computing on H-Matrix Vector Multiplication in BEM Analysis

Rise Ooi, Takeshi Iwashita, Takeshi Fukaya, Akihiro Ida, Rio Yokota

HPC Asia 2020 2020年1月
近似行列分解と分散深層学習

横田理央

RIMS研究会諸科学分野を結ぶ基礎学問としての数値解析学 2019年11月招待有り
深層学習に現れる密行列も構造

横田理央

自動チューニング研究会マイクロワークショップ 2019年10月招待有り
深層学習の高速化と大規模並列化

横田理央

情報処理学会連続セミナー第3回:AIと歩む未来(2):画像・映像処理の最前線 2019年9月招待有り
ImageNetベンチマークの大規模並列深層学習

横田理央

第14回名工大・核融合研共同セミナー:流体シミュレーションとディープラーニング 2019年7月招待有り

もっとみる

担当経験のある科目(授業)

所属学協会

共同研究・競争的資金等の研究課題

GPU教育教材の作成及び教育プログラムの実施、生成AI技術を中心としたGPU計算資源の高度活用促進

文部科学省文部科学省次世代HPC・AI開発支援拠点事業 2025年 - 2030年
大規模言語モデルのミスアライメントに対するレッドチーミング基盤

科学技術振興機構 JST K-program 2024年 - 2030年
高性能都市モデル計算

日本学術振興会科学研究費助成事業基盤研究(B) 2026年 - 2029年
大規模言語モデルの分散並列事前学習の実施に関する研究

科学技術振興機構 JST次世代人工知能技術等研究開発拠点形成事業 2024年 - 2029年
次世代計算機の潜在能力を引き出すための科学技術ソフトウェアの刷新

日本学術振興会科学研究費助成事業基盤研究(A) 2025年4月 - 2028年3月

横田理央
人工生成データ及び少量実データの継続事前学習による限定資源下でのAI基盤モデル構築

日本学術振興会国際共同研究加速基金海外連携研究 2024年 - 2028年
低ランク構造行列法の適用範囲拡大と多様な計算アーキテクチャの活用

日本学術振興会科学研究費助成事業基盤研究(B) 2024年4月 - 2027年3月

伊田明弘, 横田理央, 塙敏博, 岩下武史, 大島聡史, 星野哲也, 平石拓, 河合直聡
計算科学・計算工学の未来を拓く次世代高性能線形ソルバ

日本学術振興会科学研究費助成事業基盤研究(A) 2023年4月 - 2027年3月

岩下武史, 塙敏博, 伊田明弘, 美舩健, 横田理央, 高橋康人, 今倉暁, 深谷猛
大規模言語モデル（LLM：Large Language Model）を活用した医薬品等の有効性・安全性評価のためのアウトカム抽出の方法論の確立に向けた研究

厚生労働省厚生労働科学研究費応用研究 2024年4月 - 2027年3月

武藤学, 松本繁巳, 中島貴子, 黒田知宏, 吉原博幸, 小林慎治, 粂直人, 横田理央, 加藤康之
A New Bayes Duality Principle for Adaptive, Robust, Life-long Learning of AI

JST CREST 2021年10月 - 2027年3月

Emtiyaz Khan, Kenichi Bannai, Rio Yokota, Julyan Arbel
深層生成モデルを活用した構成的なパターン認識・理解

日本学術振興会科学研究費助成事業基盤研究(A) 2023年4月 - 2026年3月

篠田浩一, 井上中順, 横田理央, 川上玲, 佐藤育郎
2相乱流の普遍統計法則の解明による流体機器の混合促進機能向上

日本学術振興会科学研究費助成事業基盤研究(B) 2022年4月 - 2026年3月

小林宏充, 横田理央, 湯井悟志
2相乱流の普遍統計法則の解明による流体機器の混合促進機能向上

日本学術振興会科学研究費助成事業基盤研究(B) 2022年4月 - 2026年3月

小林宏充, 横田理央, 湯井悟志
階層的低ランク近似による高速・高精度な固有値計算と大規模電子状態計算への応用

日本学術振興会科学研究費助成事業基盤研究(B) 2022年4月 - 2025年3月

横田理央, 荻田武史, 星健夫, 伊田明弘
階層的低ランク近似による高速・高精度な固有値計算と大規模電子状態計算への応用

日本学術振興会科学研究費助成事業基盤研究(B) 基盤研究(B) 2022年4月 - 2025年3月

横田理央, 伊田明宏, 荻田武史, 星健夫
格子H行列に基づく数値線形代数の構築と最新アーキテクチャへの高性能実装法

日本学術振興会科学研究費助成事業基盤研究(B) 2021年4月 - 2024年3月

伊田明弘, 横田理央, 塙敏博, 岩下武史, 大島聡史, 星野哲也, 平石拓
超巨大ニューラルネットの継続学習への型破りな線形代数技術の適用

日本学術振興会科学研究費助成事業挑戦的研究(開拓) 挑戦的研究(開拓) 2020年7月 - 2023年3月

横田理央, Khan Emtiyaz, 大島聡史, 伊田明弘
Life-Long Deep Learning using Bayesian Principles

日本学術振興会科学研究費助成事業基盤研究(B) 基盤研究(B) 2020年4月 - 2023年3月

Khan Emtiyaz, Alquier Pierre, 横田理央
社会インフラ映像処理のための高速・省資源深層学習アルゴリズム基盤

科学技術振興機構 CREST 2016年11月 - 2022年3月

篠田浩一
機械学習向けハードウェアとの親和性が高い連立一次方程式の解法

日本学術振興会科学研究費助成事業基盤研究(B) 基盤研究(B) 2018年4月 - 2021年3月

横田理央, 大島聡史, 伊田明弘

もっとみる

メディア報道

「日本独自のLLMは絶対に必要」、スパコン研究者が追求するオープンなAIモデル

日経クロステック日経クロステックオンライン 2023年7月20日インターネットメディア
国産生成AI出遅れに危機感

日本経済新聞日本経済新聞朝刊・2面 2023年6月7日新聞・雑誌
和製生成AI参入続々

読売新聞読売新聞朝刊・10面 2023年6月3日新聞・雑誌
東工大など、国産の生成AI開発へ

日経産業新聞日経産業新聞 7ページ 2023年6月2日新聞・雑誌
富岳でLLM開発

日刊工業新聞日刊工業新聞朝刊・23面 2023年5月23日新聞・雑誌
スパコン「富岳」で国産生成AI開発へ

東京新聞東京新聞朝刊・2面 2023年5月23日新聞・雑誌
「富岳」で国産生成AI

産経新聞産経新聞朝刊・2面 2023年5月23日新聞・雑誌
富岳使い国産生成AI技術開発へ

毎日新聞毎日新聞朝刊・18面 2023年5月23日新聞・雑誌
日本語AI開発今月開始

読売新聞読売新聞朝刊・29面 2023年5月23日新聞・雑誌
和製対話型AI開発へ東工大・理研など

朝日新聞朝日新聞朝刊・27面 2023年5月23日新聞・雑誌
文章生成AI「国産」で開拓

日経新聞日経新聞朝刊・14面 2023年5月23日新聞・雑誌
「富岳」で和製生成AI

日経新聞日経新聞朝刊・1面 2023年5月23日新聞・雑誌
日本語AI富岳で開発

読売新聞読売新聞夕刊・10面 2023年5月22日新聞・雑誌

横田理央

基本情報

研究キーワード

研究分野

経歴

学歴

委員歴

受賞

論文

MISC

書籍等出版物

講演・口頭発表等

担当経験のある科目(授業)

所属学協会

共同研究・競争的資金等の研究課題

メディア報道

メニュー

共著者の一覧