AI 時代のスーパーコンピュータに向けた混合精度数値計算法の探求
概要
AIワークロードの拡大により低精度演算器が重視される一方，FP64性能の停滞により科学技術計算の持続的性能向上が課題となっている．本研究では，密・疎行列計算やBLAS演算を対象に，低精度演算器や混合精度技術を活用してFP64依存を低減する数値計算法を研究する．GPU大規模並列環境での実装・評価を通じ，AI時代および将来の計算機アーキテクチャを見据えた分野横断的基盤技術の確立を目指す．
関連Webページ
N/A
報告書等
研究紹介ポスター／最終報告書
業績一覧
N/A