LLM-Driven Auto-Tuning for High-Performance Code Generation on Large-Scale HPC
概要
This proposal explores LLM-driven auto-tuning for high-performance code generation on large-scale HPC systems. We aim to integrate LLM models with AI agents and search-based optimization to automatically generate, transform, and tune code for large-scale HPC systems. By leveraging LLMs to guide code tuning for architecture-aware optimizations, the proposed approach reduces human effort while achieving near-optimal performance. The framework targets scalability across CPUs, GPUs, and distributed systems, enabling portable performance and rapid adaptation to evolving HPC platforms. The outcome will advance automated performance engineering for scientific applications, such FMO, BLAS, FFT, and non-linear problems.
関連Webページ
報告書等
研究紹介ポスター/最終報告書
業績一覧
(1) 学術論文 (査読あり)
該当なし
(2) 国際会議プロシーディングス (査読あり)
[]Shun-Ichiro Hayashi, Koki Morita, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri, 2026, VibeCodeHPC: A Multi LLM Agent System for HPC Code Auto-Tuning, 2026 IEEE International Parallel and Distributed Processing Symposium Workshops (IPDPSW), 235-247
[]Ryo Mikasa, Shun-ichiro Hayashi, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri, LLM4HPC 2026 (The 2nd International Workshop on Foundational Large Language Models Advances for HPC), held in conjunction with ISC-HPC 2026, 26 June, 2026, Hamburg, Germany, in conjunction with ISC26, Proc. of ISC26 Workshop, pp.– (2026)
"Improving HPC Code Generation Capability of LLMs via Online Reinforcement Learning with Real-Machine Benchmark Rewards"
[]Daichi Mukunoki, Ryo Mikasa, Shun-Ichiro Hayashi, Tetsuya Hoshino and Takahiro Katagiri, GeCoIn (Generative Code Intelligence Workshop), In conjunction with IJCAI-ECAI 2026, Bremen, Germany (August 16, 2026)
"LLM-Based Porting of Optimized C++ to CUDA Through Deoptimization and Reoptimization"
[]Takanori Kotama, Shun-Ichiro Hayashi, Daichi Mukunoki, Rio Yokota, Satoshi Ohshima, Tetsuya Hoshino and Takahiro Katagiri, GeCoIn (Generative Code Intelligence Workshop), In conjunction with IJCAI-ECAI 2026, Bremen, Germany (August 16, 2026)
"AutoResearch: Adapting Autonomous Research Systems for HPC through Split-Phase Execution and LLM-Based Code Generation"
(3) 国際会議発表(査読なし)
[]Takanori Kotama, Shun-ichiro Hayashi, Tetsuya Hoshino, Daich Mukunoki, Satoshi Ohshima, Rio Yokota, Takahiro Katagiri, SAINT-GIRONS CONFERENCE, France, June 29 – July 3, 2026, Tuesday 16:15 – 16:30 (2026)
"HPC-AutoResearch: An Agentic Research System for HPC Through Split-Phase Execution"
[]Shun-ichiro Hayashi ,SAINT-GIRONS CONFERENCE, France, June 29 – July 3, 2026, Tuesday 16:15 – 16:30 (2026) , A Poster
"VibeCodeHPC: HPC Auto-Tuning with CLI-based Multi-agents and Local LLM Support"
(4) 国内会議発表(査読なし)
[](招待講演) 片桐孝洋, 第9回NIFS談話会, 核融合科学研究所(管理・福利棟4階 第一会議室)/ Zoomハイブリッド開催, 2026年5月7日(木), 13:20 –15:30
「AIはプログラマを超えるのか ―高性能計算の新潮流」
[](招待講演) 片桐孝洋, 第107回関西CAE懇話会, テーマ:「AI・最適化が切り拓く設計とものづくりの未来」, 大阪成蹊大学 駅前キャンパス, 2026年9月4日(金)
「AIエージェントが拓くHPCコード最適化の新時代」
[]林 俊一郎, 椋木 大地, 星野 哲也, 片桐 孝洋, 第205回ハイパフォーマンスコンピューティング研究発表会(SWoPP2026), 飛騨・世界生活文化センター(通称:飛騨センター)(岐阜県高山市), 2026年8月5日(水)-8月7日(金), 情報処理学会研究報告HPC, Vol. 2026-HPC-205 (2026)
「ATFlash:計算/メモリ高効率なLLM推論を実現するRoPE波長別Attentionフィルタ」
[]片桐 孝洋、林 俊一郎、椋木 大地、星野 哲也、第31回計算工学講演会、 OS11 ポストムーア時代に重要となる計算技術:最新研究と将来展望 (1)、OS24 ポストムーア時代に重要となる計算技術:最新研究と将来展望 (1)、2026年6月5日(金) 15:15 〜 16:15、会場H(1110)、 座長:大島 聡史(九州大学)、計算工学講演会論文集、会場:ウインク愛知、2026年6月3日 (水) – 6月5日 (金)
「人が書かないHPCプログラミング:生成AIが切り拓く次世代計算科学」
(5) 公開したライブラリなど
該当なし
(6) その他(特許,プレスリリース,著書等)
該当なし