mantissaとは 意味・読み方・使い方

A mantissa/exponent separation means 4 receives the converted image data to separate the converted image data into exponent part image data and mantissa part image data.例文帳に追加

仮数・指数分離手段４は、変換画像データを受けて、これを指数部画像データと仮数部画像データに分離する。 - 特許庁

Return the mantissa and exponent of x as the pair(m, e). m is a float and e is an integer such that例文帳に追加

x の仮数と指数を (m, e)のペアとして返します。 - Python

The low-order x bits of a mantissa part are taken out of the register 130.例文帳に追加

レジスタ１３０から、仮数部の下位のｘビットを取り出す。 - 特許庁

The mantissa repeat processing part 250 generates a quotient and a partial residue by subtraction shift processing of a mantissa of a dividend in an input operand.例文帳に追加

仮数繰り返し処理部２５０は、入力オペランドにおける被除数の仮数の減算シフト処理により商と部分剰余とを生成する。 - 特許庁

A mantissa value calculation table 220 is accessed by the mantissa data to output a logarithmic value corresponding to the mantissa data, and an exponent value calculation table 230 is accessed by the exponent data to output a logarithmic value corresponding to the exponent data.例文帳に追加

仮数値算出テーブル２２０は、仮数データでアクセスされて該仮数データ対応した対数値を出力し、指数値算出テーブル２３０は指数データでアクセスされて指数データに対応した対数値を出力する。 - 特許庁

The mantissa part address A is set based upon precision of the specified gain GT.例文帳に追加

仮数部アドレスＡは、指定ゲインＧＴの精度に基づいて設定される。 - 特許庁

A data converting section 100 converts an input signal into digital detection data at a predetermined period clock, and an exponent/mantissa separator 210 outputs the digital detection data while separating into mantissa data representative of the mantissa part of the detection data and exponent data representative of the exponent part of the detection data.例文帳に追加

入力信号をデータ変換部１００により所定周期クロックでデジタルの検波データに変換し、指数・仮数分離器２１０により検波データの仮数部を表す仮数データと指数部を表す指数データに分離して出力する。 - 特許庁

In a mantissa part of the calculation result r, low-order-bits of the mantissa part of the floating point multiplication result y are outputted to its high-order bits and high-order bits of the mantissa part of the floating point multiplication result are outputted to its low-order bits by shifting them to right.例文帳に追加

計算結果ｒの仮数部は、その上位ビットには浮動小数点乗算結果ｙの仮数部の下位ビットを出力し、その下位ビットには該浮動小数点乗算結果の仮数部の上位ビットを右にシフトして出力する。 - 特許庁