double precisionとは 意味・読み方・使い方

single(double) precision ～発音を聞く 例文帳に追加

単(倍)精度～ - コンピューター用語辞典

Packs the double-precision floating point number value.発音を聞く 例文帳に追加

倍精度 (double-precision) の浮動小数点数 value をパックします。 - Python

'single' is a single-precision floating point number 'double' is a double-precision floating point number発音を聞く 例文帳に追加

'single' は単精度浮動小数点数です。 'double' は倍精度浮動小数点数です。 - PEAR

A double-precision register 104 stores an operation result of a double-precision arithmetic unit 101.例文帳に追加

倍精度レジスタ１０４は倍精度演算器１０１の演算結果を格納する。 - 特許庁

Although single precision saves on storage, double precision provides greater precision in computations発音を聞く 例文帳に追加

単精度は記憶域が節約できるが,倍精度は計算でより高い精度が得られる - コンピューター用語辞典

The double-precision arithmetic unit 101 adds/subtracts the double-precision data including the value of the double- precision register 104 and the value of the shift register 106, and a divisor of the double-precision data stored on a double-precision register 103.例文帳に追加

倍精度演算器１０１は、フラグレジスタ１０２に格納された演算結果の符号に応じて、倍精度レジスタ１０４の値とシフトレジスタ１０６の値とを含む倍精度データと、倍精度レジスタ１０３に格納された倍精度データの除数とを、加減算する。 - 特許庁

Floating-point decimals of single or double precision ('float' and 'double') Booleans for true/false values ('boolean')発音を聞く 例文帳に追加

単精度あるいは倍精度の 浮動小数点型('float' および 'double') true/false のいずれかの値をとる 論理型('boolean') - PEAR