固定小数点演算とは? わかりやすく解説

Weblio 辞書 > 辞書・百科事典 > デジタル大辞泉 > 固定小数点演算の意味・解説 

こていしょうすうてん‐えんざん〔コテイセウスウテン‐〕【固定小数点演算】

読み方:こていしょうすうてんえんざん

小数点位置固定され固定小数点数用いて行う四則演算コンピューターにおいては、扱う数の絶対値範囲限られている計算用いられあたかも整数値のように扱うことで処理が容易になり、高速計算できる。→浮動小数点演算

[補説] 例えば「1500×0.06」という乗算場合、いったん「1500×6=9000」と整数化して計算したのち、小数点以下の桁数(2)から小数点位置(左に2ずれる)を決めて90」を得る。コンピューターでの実際演算処理は二進法行われる


固定小数点数

(固定小数点演算 から転送)

出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2024/03/08 16:08 UTC 版)

固定小数点数(こていしょうすうてんすう、: fixed-point number)は、小数点が置かれる桁を固定して表されたのことで、コンピュータ上で小数を表現する方法として使用される形式のひとつである。ある桁数のうちのある場所に小数点が固定されているもの(固定小数点)として扱う方式であるため、表現される仮数部に対して小数点の位置が移動する浮動小数点数の対義語として用いられる。すなわち、「固定-小数点数」ではなく「固定小数点-数」である。


  1. ^ ヘンリー・S.ウォーレン、ジュニア 著、滝沢徹、玉井浩、鈴木貢、赤池英夫、葛毅、藤波順久 訳「第10章 整数定数による除算」『ハッカーのたのしみ―本物のプログラマはいかにして問題を解くか』エスアイビー・アクセス、2004年。ISBN 4-434-04668-3 
  2. ^ 通貨型 PostgreSQL 9.2.4文書(2014年2月3日閲覧)。


「固定小数点数」の続きの解説一覧

固定小数点演算

出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/04/17 07:49 UTC 版)

固定小数点数」の記事における「固定小数点演算」の解説

固定小数点演算における四則演算においては加算減算そのまま整数同士加減算として計算できる。しかし、乗算除算では演算結果小数点位置掛けた数の小数点位置けずれることになるため、元の小数点位置に戻す場合には乗算では右側LSB側)へ、除算では左側MSB側)へシフト演算を行う必要がある。 ここでは例えば、1.50.5加算考えてみる。1.50.5Q1表記では各々2進数表記1101である。これらQ1表記の数(1101)をそのまま足してみると100となるが、100を元の実数直す2.0であるので通常の加算のまま計算できている。次に乗算考え単純にQ1表記の数(1101)を掛けてみる。結果11であるがこれをQ1表記であるとみなして実数直す1.5となる。1.50.5乗算結果正解0.75であるのでこの解釈間違いである。乗算では、小数点部分ビット数が、乗算対象となる2つ固定小数点数小数点部分ビット数の和になるQ1表記同士であれば計算後の小数部のビット数は1ビット足す1ビットで2ビットとなる。そのため乗算結果11Q2表記として解釈する必要がある。またQ1表記直す場合には、1ビット右にシフトする必要があるまた、浮動小数点数にくらべ表現可能な範囲狭く算術オーバーフロー算術アンダーフロー発生しやすいことに注意したほうがよい。

※この「固定小数点演算」の解説は、「固定小数点数」の解説の一部です。
「固定小数点演算」を含む「固定小数点数」の記事については、「固定小数点数」の概要を参照ください。

ウィキペディア小見出し辞書の「固定小数点演算」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。 お問い合わせ


英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

「固定小数点演算」の関連用語

固定小数点演算のお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



固定小数点演算のページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
デジタル大辞泉デジタル大辞泉
(C)Shogakukan Inc.
株式会社 小学館
ウィキペディアウィキペディア
All text is available under the terms of the GNU Free Documentation License.
この記事は、ウィキペディアの固定小数点数 (改訂履歴)の記事を複製、再配布したものにあたり、GNU Free Documentation Licenseというライセンスの下で提供されています。 Weblio辞書に掲載されているウィキペディアの記事も、全てGNU Free Documentation Licenseの元に提供されております。
ウィキペディアウィキペディア
Text is available under GNU Free Documentation License (GFDL).
Weblio辞書に掲載されている「ウィキペディア小見出し辞書」の記事は、Wikipediaの固定小数点数 (改訂履歴)の記事を複製、再配布したものにあたり、GNU Free Documentation Licenseというライセンスの下で提供されています。

©2024 GRAS Group, Inc.RSS