bit precisionとは 意味・読み方・使い方

M bit to N bit conversion in nonlinear conversion is achieved without lowering bit compression precision by setting the interval of discrete correction values unequally.例文帳に追加

離散的補正値の間隔を不等間隔に設定することによりビット圧縮精度を落とすことなく非線形変換でのＭビット→Ｎビット変換を実現する。 - 特許庁

First of all, a bit map font having a higher precision than a precision of a generated half tone font is generated by using an outline font.例文帳に追加

はじめに、生成されるハーフトーンフォントの精度よりも高精度のビットマップフォントを、アウトラインフォントを用いて生成する。 - 特許庁

To provide a bit cleaning device capable of efficiently removing dust with high precision.例文帳に追加

効率的に高い精度でゴミを除去することができるビット清掃装置を提供する。 - 特許庁

To improve supporting positional precision of a rotor without increasing the bit number of an A/D converter.例文帳に追加

Ａ／Ｄコンバータのビット数を増やすことなく、回転体の支持位置精度を向上させる。 - 特許庁

An array of n-bit words 20 representing an image is filtered to generate a corresponding higher-precision array of m-bit words 26 representing the image.例文帳に追加

画像を表すnビットワード(20)のアレイをフィルタリングして、該画像を表すより精度の高いmビットワード(26)の対応するアレイを生成する。 - 特許庁

Increasing the bit with the code conversion circuit 201 results in an increase of precision of the scaling calculation.例文帳に追加

コード変換回路２０１でビット数を増やしたことによって、変倍計算の精度を上げる。 - 特許庁

The SIMD extension instruction register supports SIMD operations to 128-bit packed single-precision and double-precision floating-point numbers and 128-bit packed byte, word, double-word and quad-word integers.例文帳に追加

ＳＩＭＤ拡張命令レジスタは１２８ビットのパック単精度並びに倍精度浮動小数値及び１２８ビットのパック・バイト、ワード、ダブルワード及びクワドワード整数に対するＳＩＭＤ演算をサポートする。 - 特許庁

To provide an image decoding apparatus which is applicable to high-bit precision by suppressing circuit scale and memory capacity as conventional specification compliance.例文帳に追加

従来規格準拠のまま、高ビット精度対応を回路規模、メモリ容量を抑えて実現。 - 特許庁