関西可積分系セミナー (2004年12月1日)
- 日時
- 2004年12月1日（水）15時-16時30分
- 場所
- 京都大学工学部総合校舎１０２講義室
荻田武史 (早稲田大学)
高速な高精度演算と精度保証付き数値計算
浮動小数点演算による高速かつ高精度な内積の計算法と数値線形代数における精度保証付き数値計算について述べる．ItaniumやPowerPCなどに搭載されているFMAと呼ばれる命令を使用可能な場合，高精度演算のアルゴリズムが簡潔かつ高速になることを示す．また，それらの高精度演算を連立一次方程式の精度保証付き数値計算に適用する方法とその効果を示す．時間があれば，固有値の精度保証についても述べたい．