double-precision floating pointとは 意味・読み方・使い方

To reduce as much as possible a hardware volume constituting a dependence detecting circuit for a bypass function by proposing a new single-precision floating-point data storing method concerning a processor treating the single-precision floating-point data and double-precision floating-point data.例文帳に追加

単精度浮動小数点データおよび倍精度浮動小数点データを扱うプロセサにおいて、新しい単精度浮動小数点データの格納方式を提案し、バイパス機能のための依存関係検出回路を構成するハードウェア量を可能な限り低減すること。 - 特許庁

These represent complex numbers as a pair of machine-level double precision floating point numbers.例文帳に追加

この型は、計算機レベルで倍精度とされている浮動小数点を 2 つ一組にして複素数を表現します。 - Python

Then, double precision words and/or plural pairs of single precision words are loaded and stored between a floating point co-processor and a memory, and a Boolean result obtained by comparing two floating points in a floating point unit 265 is stored in an integer register in a CPU 201.例文帳に追加

浮動小数点コウプロセッサとメモリとの間で、倍精度ワード及び／又は複数対の単精度ワードをロードすると共に記憶し、その上にＣＰＵ（２０１）内の整数レジスタ内で浮動小数点ユニット（２６５）における２つの浮動小数点数を比較したブール結果を記憶する例が与えられている。 - 特許庁

The SIMD extension instruction register supports SIMD operations to 128-bit packed single-precision and double-precision floating-point numbers and 128-bit packed byte, word, double-word and quad-word integers.例文帳に追加

ＳＩＭＤ拡張命令レジスタは１２８ビットのパック単精度並びに倍精度浮動小数値及び１２８ビットのパック・バイト、ワード、ダブルワード及びクワドワード整数に対するＳＩＭＤ演算をサポートする。 - 特許庁

To avoid the waste of overhead and analytic processing by efficiently performing the precision assurance of a single precision operation and a double precision operation in a floating-point operation.例文帳に追加

浮動小数点演算における単精度演算と倍精度演算の精度保証を効率的に行い、オーバーヘッドや解析処理の無駄の発生を回避する。 - 特許庁

Floating point numbers are implemented using double in C. All bets on their precision are off unless you happen to know the machine you are working with.例文帳に追加

浮動小数点型は C ではdouble を使って実装されています。 しかし使っている計算機が何であるか分からないなら、これらの数値型の精度に関して断言はできません。 - Python

To provide a synthetic aperture radar system which has a smaller system size than one constructed by double-precision floating point numbers and has an image reproduction processing means which can perform calculations with sufficient calculation accuracy.例文帳に追加

倍精度浮動小数点数で構成した場合よりも装置規模が小さく、かつ十分な演算精度で演算可能な画像再生処理手段を備えた合成開口レーダ装置を得る。 - 特許庁

In a compiler 100 mounted on a computer, an object code of a method is generated in a double precision mode in the floating-point operation and a second code of the method is generated in a single precision mode when the method is frequently called in the single precision mode and processing costs can be reduced by implementing the method in the single precision mode.例文帳に追加

コンピュータに搭載されたコンパイラ１００において、浮動小数点演算における倍精度モードでメソッドのオブジェクトコードを生成すると共に、このメソッドが単精度モードで頻繁に呼び出され、かつ単精度モードで実行することにより処理コストを削減できる場合に、単精度モードでメソッドの第２のコードを生成する。 - 特許庁