芝浦工業大学
芝浦工業大学
背景画像
技術Technology015
2018.07.05

スパコンを用いた、
超高速計算を体感せよ

計算結果を信頼できる
世界の構築へ

パソコンはどんなときでも正確かつ高速に計算してくれる便利な機械だと思っていませんか? 高速に計算できるのは、けた数が有限な2進数で表される数値です。有限桁の数でも、計算に誤差が発生します。その誤差により、結果としてとんでもない答えが得られてしまうこともあります。当研究室では、この誤差の問題に向きあい、信頼できる結果が得られる手法の開発・実装を行います。

  • 計算における丸め誤差解析を行っています
システム理工学部/数理科学科/数値解析研究室
尾崎 克久 准教授
数値計算の高精度化によるシミュレーション技術の向上や計算速度の向上によるコスト削減、またシミュレーションアルゴリズムの破綻防止など、主に情報系の分野に成果は貢献されます。