approximate calculation methodとは 意味・読み方・使い方

To remarkably reduce time required for FDTD calculation by introducing extrapolative approximate calculation into repetitive calculation by a time domain finite difference (FDTD) method.例文帳に追加

時間領域有限差分（ＦＤＴＤ）法による繰返し計算に、外挿近似計算を導入することによって、ＦＤＴＤ計算にかかる時間を大幅に短縮する。 - 特許庁

To provide an arithmetic circuit and method which allows approximate calculation of a formula including a round-up arithmetic operation at high speed.例文帳に追加

切り上げ演算を含む数式の近似計算を高速に行うことができる演算回路及び方法を提供する。 - 特許庁

To provide a decode evaluating method for error correction codes and an apparatus therefor which satisfactorily makes an approximate evaluation of a decoder while suppressing the calculation quantity for evaluating the performance of the decoder.例文帳に追加

復号器の性能を評価する際の計算量を抑えながら良好な近似計算を可能にする。 - 特許庁

An approximate curve calculation part 47 calculates the approximate line L by applying a minimum square method to data obtained by combining front data F, rear data R and inertia navigation data K.例文帳に追加

近似曲線算出部４７は、前方データＦと後方データＲと慣性航法データＫとを合成したデータに対して最小二乗法を適用して近似曲線Ｌを算出する。 - 特許庁

To provide a means capable of strictly determining an error estimation function in segment unit in estimation of a parameter vector with the same calculation amount as that of an approximate calculation method used in a conventional method.例文帳に追加

パラメタベクトルを推定する際に、セグメント単位の誤り推定関数を厳密に求め、従来法で用いる近似的な計算法と同じ計算量で実現可能な手段を提供すること。 - 特許庁

To provide a simulation method and program that can measure the intensity distribution of light irradiated on a substrate surface through a mask in a short time period in the same way as thin film mask approximate calculation, and can measure the intensity distribution more accurately than the thin film mask approximate calculation.例文帳に追加

リソグラフィシミュレーションにおいて、マスクを通して基板表面上に照射される光の強度分布を、薄膜マスク近似計算と同様に短時間で測定でき、且つ薄膜マスク近似計算よりも正確に測定することができる。 - 特許庁

A device and a method are provided for correcting a measured pressure into an approximate value close to an actual pressure difference by using a calculation correction quantity.例文帳に追加

測定された圧力値を圧力差実際値に近い近似値に補正するように、計算補正量を用いる装置及び方法を提供する。 - 特許庁

To provide a battery state monitoring device provided with the approximate expression calculation system and its method capable of calculating the approximate expression calculation system indicating the relationship between the battery terminal voltage and the elapsed time after finishing the charge or discharge which are precisely fitting to the actual measurement value.例文帳に追加

実測値と精度良くフィッティングするバッテリ端子電圧と充電又は放電終了後の経過時間との関係を示す近似式を算出することができる近似式算出装置及びその方法、並びに、前記近似式算出装置を有するバッテリ状態監視装置を提供する。 - 特許庁