floating‐point representationの英語

In each restoring dot, the reliability which is an index of certainty is defined by floating-point representation.例文帳に追加

各復元点には、確からしさの指標である信頼度が浮動小数点表示で定義されている。 - 特許庁

To provide a device for supporting the conversion of a floating point representation program to fixed point representation and a support program thereof for reducing the labor of setting attribute values to numerical elements to be converted to fixed point representation in a floating point representation program.例文帳に追加

浮動小数点表現プログラムにおける固定小数点表現化すべき数要素に対する属性値を設定するための手間を低減させることのできる浮動小数点表現プログラムの固定小数点表現化支援装置及び支援プログラムを提供することである。 - 特許庁

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

In contrast, numbers like1.1 do not have an exact representation in binary floating point.End users typically would not expect 1.1 to display as1.1000000000000001 as it does with binary floating point.発音を聞く 例文帳に追加

1.1 のような数は、2 進数の浮動小数点型では正しく表現できません。 エンドユーザは普通、2 進数における1.1 の近似値が1.1000000000000001 だからといって、そのように表示してほしいとは考えないものです。 - Python

The average value of reliability of the respective restoring points obtained from the respective data of reliability stored in the RGBA data channel is converted to floating-point representation.例文帳に追加

そして、ＲＧＢＡデータチャネルに格納された信頼度の各データから得られる各復元点の信頼度の平均値を浮動小数点表示に変換する。 - 特許庁

In the polygon data of many polygons used to approximate a three-dimensional shape, apex coordinate data (x, y, z) are written in the floating point representation and apex normal data (nx, ny, nz) are written in integers.例文帳に追加

３次元形状を近似するための多数のポリゴンのポリゴンデータは、頂点座標データ（ｘ，ｙ，ｚ）を浮動小数点数とし、頂点法線データ（ｎｘ，ｎｙ，ｎｚ）を整数とする。 - 特許庁

The data processing apparatus comprises a data processing unit operable to execute instructions, with the data processing unit being responsive to a format conversion instruction to apply a format conversion operation to a number to perform a conversion between the fixed-point representation of the number and the floating-point representation of the number.例文帳に追加

データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁

A data format is adopted in this system where the number of lower- order bits of the mantissa of the apex coordinate data is made smaller than that of a data format in the floating point representation processible by a computer reading polygon data, and a data format into which the above apex normal data are integrated is applied to the room created by reducing the lower- order bits.例文帳に追加

頂点座標データのビット数は、ポリゴンデータを読取るコンピュータが処理可能な浮動小数点数のデータフォーマットに対して仮数の下位側ビット数が少なくされ、その少なくされた部分に前記頂点法線データを組込んだデータフォーマットを採用する。 - 特許庁