data precisionとは 意味・読み方・使い方

A precision holding part 12 holds the precision of required data.例文帳に追加

精度保持部１２は、必要とされるデータの精度を保持する。 - 特許庁

To provide a data transmission device capable of enhancing precision of transmission cycles of packet data.例文帳に追加

パケットデータの送信周期の精度を高める。 - 特許庁

To efficiently execute the sum of product arithmetic operation of a data column with double precision data column and a data column with single precision in addition to the dual sum of product arithmetic operation of the mutual data columns with single precision.例文帳に追加

単精度のデータ列どうしのデュアル積和演算に加えて、倍精度のデータ列と単精度のデータ列との積和演算を効率良く実行する。 - 特許庁

To efficiently process multiple-precision data in data driven type processing.例文帳に追加

データ駆動型処理において多倍精度データを効率よく処理する。 - 特許庁

To improve precision by removing unnecessary data from learning data.例文帳に追加

学習データから不要なデータを取り除いて精度を向上させる。 - 特許庁

the maximum precision allowed for floating-point binary data発音を聞く 例文帳に追加

浮動小数点2進データの最大許容精度 - コンピューター用語辞典

A decoder 141 decodes the precision of data held by the precision holding part 12.例文帳に追加

デコーダ１４１は、精度保持部１２によって保持されるデータの精度をデコードする。 - 特許庁