Exploring Mixed-Precision Computation Methods for Supercomputers in the AI Era
Abstract
AIワークロードの拡大により低精度演算器が重視される一方，FP64性能の停滞により科学技術計算の持続的性能向上が課題となっている．本研究では，密・疎行列計算やBLAS演算を対象に，低精度演算器や混合精度技術を活用してFP64依存を低減する数値計算法を研究する．GPU大規模並列環境での実装・評価を通じ，AI時代および将来の計算機アーキテクチャを見据えた分野横断的基盤技術の確立を目指す．
Related Web pages
N/A
Reports
研究紹介ポスター／最終報告書
Achievements
N/A