拡張した二重指数分割表現による数値表現法に関する研究

• Item type: SIG Technical Reports(1)
• 公開日: 1995-10-18
• タイトル: 拡張した二重指数分割表現による数値表現法に関する研究
• タイトル / 言語: en
• タイトル: A Study on Representation of Numbers Based on Extended Double Exponential Cut
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 東京大学大学院理学系研究化情報科学専攻
• 著者所属(英): en
• 著者所属(英): Department of Information Science, Faculty of Science, the University of Tokyo
• 著者名: 富松, 剛
• 著者名(英): Tsuyoshi, Tomimatsu
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 浜田の提案したURR(niversal Representation of Real number)は1から離れるに従って，急速に精度が悪化するという欠点がある．この欠点を改善するためにURRを一般化し，拡張した二重指数分割表現を提案する．URRは二重指数±2^<±2^m>で実数を大まかに近似するが，本表現では二重指数を±p^<±q^m>と一般化する．本表現により，pとqを大きくするとで，より大きな実数に対しては，より少ないビット数で近似できること，pとqを適切に選ぶことによって，URRに比べより広範囲にわたって，IEEE表現よりも精度の良い表現方法があることがわかった．さらに本表現はURRの欠点でもある急激な精度の悪化も抑えることがわかった．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Precision of URR (Universal Representation of Real numbers) which was proposed by Hamada goes to the worse when the number is away from ±1. By generalizing from URR, we propose the floating point representation of the extended double exponential cut of URR. Our representation is based on the double exponential cut of ±p^<±q^m>. By selecting suitable values for p and q, we can represent numbers more precise than the IEEE representation. And our floating point representation cut can escape from the demerit in URR representation of getting worse in the precision when the number is away from ±1.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10463942
• 書誌情報: 情報処理学会研究報告ハイパフォーマンスコンピューティング（HPC）; 巻 1995, 号 97(1995-HPC-058), p. 57-62, 発行日 1995-10-18
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会