高性能かつ高信頼な数値計算手法とその応用
荻田武史(東京女子大学現代教養学部数理科学科)

概要

低精度・混合精度演算等の変動精度演算は,高速性や省電力性の向上のため,メニーコアCPUやGPUの発展と共にAI分野等で活発に利用されているが,同時に,計算結果の信頼性を担保することの重要性が増しつつある.本研究は,科学技術シミュレーションに現れる大規模行列に対して有効な疎行列ソルバーや階層型行列(H行列)演算等の高速計算に関する研究を推進し,それらの計算の信頼性及び電力効率を重視しながら,悪条件な実問題に適用可能な実用的な手法の研究開発を実施するものである.

関連Webページ

N/A

業績一覧

N/A