こていしょうすうてん‐えんざん〔コテイセウスウテン‐〕【固定小数点演算】
固定小数点数
(固定小数点演算 から転送)
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2024/03/08 16:08 UTC 版)
固定小数点数(こていしょうすうてんすう、英: fixed-point number)は、小数点が置かれる桁を固定して表された数のことで、コンピュータ上で小数を表現する方法として使用される形式のひとつである。ある桁数のうちのある場所に小数点が固定されているもの(固定小数点)として扱う方式であるため、表現される仮数部に対して小数点の位置が移動する浮動小数点数の対義語として用いられる。すなわち、「固定-小数点数」ではなく「固定小数点-数」である。
- ^ ヘンリー・S.ウォーレン、ジュニア 著、滝沢徹、玉井浩、鈴木貢、赤池英夫、葛毅、藤波順久 訳「第10章 整数定数による除算」『ハッカーのたのしみ―本物のプログラマはいかにして問題を解くか』エスアイビー・アクセス、2004年。ISBN 4-434-04668-3。
- ^ 通貨型 PostgreSQL 9.2.4文書(2014年2月3日閲覧)。
- 1 固定小数点数とは
- 2 固定小数点数の概要
- 3 固定小数点数の精度
- 4 関連項目
固定小数点演算
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/04/17 07:49 UTC 版)
固定小数点演算における四則演算においては、加算や減算はそのまま整数同士の加減算として計算できる。しかし、乗算や除算では演算結果の小数点位置が掛けた数の小数点の位置だけずれることになるため、元の小数点位置に戻す場合には乗算では右側(LSB側)へ、除算では左側(MSB側)へシフト演算を行う必要がある。 ここでは例えば、1.5と0.5の加算を考えてみる。1.5、0.5はQ1表記では各々2進数表記で11、01である。これらQ1表記の数(11と01)をそのまま足してみると100となるが、100を元の実数に直すと2.0であるので通常の加算のまま計算できている。次に乗算を考え単純にQ1表記の数(11と01)を掛けてみる。結果は11であるがこれをQ1表記であるとみなして実数に直すと1.5となる。1.5と0.5の乗算結果の正解は0.75であるのでこの解釈は間違いである。乗算では、小数点部分のビット数が、乗算対象となる2つの固定小数点数の小数点部分のビット数の和になる。Q1表記同士であれば、計算後の小数部のビット数は1ビット足す1ビットで2ビットとなる。そのため乗算結果の11はQ2表記として解釈する必要がある。またQ1表記に直す場合には、1ビット右にシフトする必要がある。 また、浮動小数点数にくらべ表現可能な範囲が狭く算術オーバーフローや算術アンダーフローが発生しやすいことに注意したほうがよい。
※この「固定小数点演算」の解説は、「固定小数点数」の解説の一部です。
「固定小数点演算」を含む「固定小数点数」の記事については、「固定小数点数」の概要を参照ください。
- 固定小数点演算のページへのリンク