decimal operationとは 意味・読み方・使い方

To provide an input display device for displaying numeric inputted by a computer capable of judging the presence of the inputting operation of a specific numerical symbol such as a decimal point when the decimal point is inputted.例文帳に追加

例えば計算機において入力された数値を表示するための入力表示装置にあって、小数点など、特定の数値記号を入力した際に、当該記号入力したその時点で入力操作の有無を判別可能にする。 - 特許庁

A rounding operation part 11 adds the decimal (m-n) bits of the input data and the random number acquired from the random number generation part 12 and acquires a carry up amount.例文帳に追加

丸め演算部１１は、入力データの小数部（ｍ−ｎ）ビットと乱数生成部１２から取得した乱数を加算し、繰り上がり量を取得する。 - 特許庁

This decimal frequency division type PLL frequency synthesizer comprises inside a phase comparator, a gate delay element which operates as a ring oscillator, when it attempts to lock to a predetermined frequency and operates as a dead zone preventing delay element, when decimal frequency division operation is carried out.例文帳に追加

位相比較器内に、所定の周波数にロックしょうとする時にはリングオシレータとして動作し、小数点分周動作のときは不感帯防止用遅延素子として動作するゲート遅延素子、を備えた小数点分周方式ＰＬＬ周波数シンセサイザ。 - 特許庁

After the cumulative addition arithmetic operation is repeated n times, the value in the addition result storage register 14 is converted into the data in the floating decimal format, so that the arithmetic result can be obtained.例文帳に追加

前記累積加算演算をｎ回繰り返した後、加算結果保持レジスタ１４内の値を浮動小数形式のデータに変換することにより演算結果が得られる。 - 特許庁

To detect a maximum collation region in an image having the maximum correlation with a region defined in another image, with higher accuracy at higher speed, without performing any floating decimal point arithmetic operation including square root arithmetic operation or fraction arithmetic operation, in image collation.例文帳に追加

画像の照合に際し、画像に定義した領域と相関関係が最大となる他の画像上の最大相関領域を検出する際に、平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に検出する。 - 特許庁

To provide a motion detection device and a motion detection method which are capable of reducing an operation amount by using norms in decimal precision motion vector detection and bi-predictive motion vector detection.例文帳に追加

小数精度の動きベクトル検出及び双予測の動きベクトル検出において、ノルムを利用して演算量を削減できる動き検出回路及び動き検出方法を提供する。 - 特許庁

To execute image reduction processing at high speed without deteriorating image quality compared to the case of using an image reduction method using division processing or decimal-point operation processing for calculation of a pixel value.例文帳に追加

画素値の算出に除算処理または小数点演算処理を用いる画像縮小方法を用いた場合と比較して、画質を劣化させることなく画像縮小処理を高速に実行する。 - 特許庁

In addition, the interface model 5 is provided with a bit accuracy converting part 11 to convert decimal point display and bit width of input/output data and a signal converting part 12 to convert signal lines and signal values of the input/output signals of the operation model as well.例文帳に追加

また、入出力データの小数点表示やビット幅の変換を行うビット精度変換部１１や、動作モデルの入出力信号の信号線や信号値の変換を行う信号変換部１２も備えている。 - 特許庁