「浮動小数点式の」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

ＦＰＵ１５は浮動小数点形式の演算を実施し、ＣＰＵ１２は浮動小数点形式以外の演算を実施する。例文帳に追加

The FPU 15 executes an arithmetic operation in a floating point format, and the CPU 12 executes an arithmetic operation in a format other than the floating point format. - 特許庁

浮動小数点数係数多項式演算方法、その装置および記録媒体例文帳に追加

METHOD AND DEVICE FOR FLOATING-POINT NUMERICAL COEFFICIENT POLYNOMIAL OPERATION, AND RECORDING MEDIUM - 特許庁

浮動小数点変換器２７でＡＤ変換された入力信号の各サンプリング値のデータ形式を浮動小数点数に変換する。例文帳に追加

Data forms of the respective sampling values of the AD converted input signal are converted into the number of floating points by a floating point converter 27. - 特許庁

浮動小数点形式の浮動小数点剰余演算において、剰余を求める際に必要な（被除数−整数商×除数）なる浮動小数点積和演算を、浮動小数点剰余演算の特徴を利用して従来の手法に比べて簡単な回路で剰余を求めるように構成する。例文帳に追加

In floating point remainder computation of a floating point method, floating point product sum computation (dividend -integer quotient ×divisor) necessary for determining a remainder is executed by using advantages of floating point remainder computation to determine the remainder in simpler circuits than in conventional methods. - 特許庁

そして、ホールフィルタ２２からの浮動小数点形式の駆動データを固定小数点形式の駆動データに変換する。例文帳に追加

Then, the data for driving in the floating-point format from the Hall filter 22 is converted into data for driving in the fixed-point format. - 特許庁

ＣＰＵ３１は固定小数点形式データでの演算を実施し、ＦＰＵ３２は、浮動小数点形式データの演算を実施する。例文帳に追加

The CPU 31 executes an operation by fixed-point form data, while the FPU 32 executes an operation of floating-point form data. - 特許庁

本発明による組込み制御装置によると、浮動小数点数形式の離散的データを読み取り専用記憶装置に格納するとき、浮動小数点数形式の離散的データを、仮数部短縮型浮動小数点数形式のデータに変換してから格納する。例文帳に追加

According to the embedded control system, when discrete data in the floating-point format is stored in a read-only memory, the discrete data in the floating-point format is converted into data in a significand-reduced floating-point format before being stored. - 特許庁

レジスタ形式の浮動小数点数は、メモリの１ワードより多くのバイトをもつ。例文帳に追加

Namely, the least significant byte s0 of a mantissa is stored in the lowest memory address of a 128-bit memory field in Little Endian form 420. - 特許庁

関数群は、現在の丸め方向( fesetround (3) 参照) で引き数を浮動小数点形式の整数に丸める。例文帳に追加

functions round their argument to an integer value in floating-point format, using the current rounding direction (see fesetround (3))  - JM

固定精度の浮動小数点数同士の正確な和を高速に実現する演算方式を提供する。例文帳に追加

To provide an arithmetic system for rapidly performing precise addition of fixed-precision floating-point numbers. - 特許庁

レベル３から１０までのフラグを１とし浮動小数点方式で圧縮処理する。例文帳に追加

A flag for levels between 3 through 10 is set to 1, and the data is compression processed by a floating point system. - 特許庁

複式データパスＤＳＰにおける再帰的計算のブロック浮動小数点実施方法例文帳に追加

BLOCK FLOATING POINT EXECUTION METHOD FOR RECURSIVE CALCULATION IN DUAL DATA PATH DSP - 特許庁

単精度浮動小数点データおよび倍精度浮動小数点データを扱うプロセサにおいて、新しい単精度浮動小数点データの格納方式を提案し、バイパス機能のための依存関係検出回路を構成するハードウェア量を可能な限り低減すること。例文帳に追加

To reduce as much as possible a hardware volume constituting a dependence detecting circuit for a bypass function by proposing a new single-precision floating-point data storing method concerning a processor treating the single-precision floating-point data and double-precision floating-point data. - 特許庁

浮動小数点演算から固定小数点演算への置き換えによる音質劣化の度合いを客観的方法により評価し、固定小数点演算のみを用いた音声符号化方式の音質評価を行うことを課題とする。例文帳に追加

To evaluate sound quality of a voice encoding system using only fixed-point operations by evaluating by an objective method the degree of sound quality deterioration due to replacement of floating-point operations with the fixed-point operations. - 特許庁

ソース型変換部０（１）およびソース型変換部１（２）は、可変長の指数部および仮数部を含んだ浮動小数点の数値形式を、ＩＥＥＥ７５４規格の浮動小数点の数値形式に変換する。例文帳に追加

A source type conversion part 0(1) and a source type conversion part 1(2) convert a floating point numerical format including a variable-length exponent part and a mantissa part into the IEEE 754 standard floating point numerical format. - 特許庁

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。例文帳に追加

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way. - 特許庁

デスティネーション型変換部４は、指数・仮数固定長形式浮動小数点演算器３による演算結果を可変長の指数部および仮数部を含んだ浮動小数点の数値形式に変換する。例文帳に追加

A destination type conversion part 4 converts a computing result by the exponent/mantissa fixed-length floating point computing unit 3 into the floating point numerical format including the variable-length exponent part and mantissa part. - 特許庁

入力データ形式変換器４０は変位速度検出器１２において検出された変位速度について固定小数点形式から浮動小数点形式に変換するとともに、検出された合焦部材の位置を浮動小数点データに変換する。例文帳に追加

An input data format converter 40 converts the shifting speed detected by a variation speed detector 12 from a fixed-point format into a floating-point format, and also converts the detected position of a focus member into a floating-point format. - 特許庁

浮動小数点化処理部１１により浮動小数点形式に変換された、音素の波形を表す音素データが表す波形のスペクトルがアナライザ１２により生成され、量子化部１３により量子化される。例文帳に追加

The spectrum of the waveform that is represented by phoneme data converted to floating point format by a floating-point processing part 11 and representing the waveform of a phoneme represents is generated by an analyzer 12 and quantized by a quantization part 13. - 特許庁

指数・仮数固定長形式浮動小数点演算器３は、ソース型変換部０（１）およびソース型変換部１（２）によって変換された固定長の指数部および仮数部を用いて浮動小数点演算を行なう。例文帳に追加

An exponent/mantissa fixed-length floating point computing unit 3 performs floating point operation by using the fixed-length exponent part and the mantissa part converted by the source type conversion part 0(1) and the source type conversion part 1(2). - 特許庁

ＦＰＣ方式の技術的課題を解消し、浮動小数点形式の数値データの圧縮率を向上させる。例文帳に追加

To resolve technical issues in FPC method, and to enhance the compression ratio on numerical data in a floating point format. - 特許庁

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。例文帳に追加

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form. - 特許庁

これらの恒等関係は浮動小数点の場合には維持されません;x/y が floor(x/y) や floor(x/y) - 1 に置き換えられた場合、これらの恒等式は近似性を維持します。例文帳に追加

These identities don't hold for floating point numbers; there similar identities holdapproximately where x/y is replaced by floor(x/y) orfloor(x/y) - 1 - Python

浮動小数点形式信号系列の線形予測分析方法、その装置、プログラムおよびその記録媒体例文帳に追加

LINEAR PREDICTION ANALYSIS METHOD AND DEVICE OF FLOATING-POINT TYPE SIGNAL SEQUENCE, PROGRAM, AND ITS STORAGE MEDIUM - 特許庁

浮動小数点形式のデータの演算結果が非数となった場合でも、当該制御および他の制御における制御不良を防止する。例文帳に追加

To prevent control failures in control even if a computational result of data in a floating-point format becomes a nonnumeric number and in other control. - 特許庁

エンジン制御ＥＣＵ１０内のマイコン１１は、ＣＰＵ１２，ＲＡＭ１３，ＲＯＭ１４，ＦＰＵ１５等を備え、そのうちＦＰＵ１５は浮動小数点形式の演算を実施する。例文帳に追加

A microcomputer 11 in an engine control ECU 10 is provided with a CPU 12, a RAM 13, a ROM 14, an FPU (floating point unit) 15, etc., and the FPU 15 among them executes a floating point type operation. - 特許庁

ステップ４のカオスフィルタリングでは、浮動小数点形式のデジタルカオス信号Ｃを整数化し、更に２値符号化する。例文帳に追加

In a step 4 for chaos filtering, the chaos digital signal C in floating point type is converted into an integer, and then converted into a binary. - 特許庁

固定精度浮動小数点数の組を丸め対象とした場合に、丸め演算を効率的に実現する演算方式を提供する。例文帳に追加

To provide an arithmetic system for efficiently performing a rounding operation when fixed-precision floating-point number groups are to be rounding targets. - 特許庁

入力された浮動小数点形式のデータをデータ分離部１１で符号部、指数部、及び仮数部に分離する。例文帳に追加

Input floating decimal point format data are divided into a code part, exponent part and a mantissa part by a data separation part 11. - 特許庁

小さな回路規模で浮動小数点形式のディジタル値Ａ，Ｂに対応することができる位相出力回路を提供する。例文帳に追加

To provide a phase output circuit that copes with digital values A, B in a floating point format in a small circuit scale. - 特許庁

浮動小数点形式のＤ_ωから手振れ振動成分を抽出し、これを積分して揺動角度θに応じたデータＤ_θを生成する。例文帳に追加

A shake vibration component is extracted from the floating-point format Dω, it is integrated, and data D_θ corresponding to an oscillation angle θ are generated. - 特許庁

浮動小数点数をレジスタ形式からの変換なくバイエンディアンでメモリに記憶する。例文帳に追加

To permit efficient processing by a processor by storing a floating- point number in register form in a memory in both 'Endian' forms according to Endian control bit without conversion from the register form. - 特許庁

マイクロコンピュータへの動作電源遮断時、組込み制御装置は、バックアップメモリに格納する浮動小数点数形式のデータの非数の有無を判定し、非数を有すると判定した場合、非数を有する浮動小数点数形式のデータを初期化する。例文帳に追加

When operating power supply to a microcomputer is interrupted, a built-in controller determines the presence/no presence of the nonnumeric character of data of a floating point number format stored in a backup memory, and when determining that the nonnumeric character is present, initializes the data of the floating point number format having nonnumeric character. - 特許庁

また、ジャイロフィルタ２４は、浮動小数点形式のデータ処理によって前記撮像装置の変位量データを算出し、ホールフィルタ２２は浮動小数点形式のデータ処理によって、前記合焦調整部材の駆動データを生成する。例文帳に追加

Further, a gyro filter 24 calculates the data of the shifting amount of the imaging device by performing data processing in the floating-point format, and a Hall filter 22 generates data for driving the focus adjustment member by performing data processing in the floating-point format. - 特許庁

更に、離散的データから補間演算を行うとき、読み取り専用記憶装置に格納された仮数部短縮型浮動小数点数形式の離散的データを浮動小数点数形式の離散的データに戻してから、補間演算を行う。例文帳に追加

Further, an interpolation operation is performed from discrete data, the discrete data in the significand-reduced floating-point format stored in the read-only memory is brought back to the discrete data in the floating-point format before an interpolation operation being performed. - 特許庁

浮動小数点数もまた、プラットフォーム間での微妙な出力の違いの原因となります。 というのも、Python は浮動小数点の書式化をプラットフォームの C ライブラリにゆだねており、この点では、C ライブラリはプラットフォーム間で非常に大きく異なっているからです。例文帳に追加

Floating-point numbers are also subject to small output variations across platforms, because Python defers to the platform C library for floatformatting, and C libraries vary widely in quality here. - Python

固定小数点と浮動小数点型の２つの型式からなる同一データを扱う電子制御装置において、同一データ間の物理量換算値の同一性が保証され、かつ同一性保証を行う手順の処理の簡素化を図ることを目的とする。例文帳に追加

To guarantee identity of a physical quantity conversion value between the same data and simplify processing of a procedure for guaranteeing the identity, in an electronic control device handling the same data constituted of two types of a fixed-point type and a floating-point type. - 特許庁

外部圧縮装置２で例えば３２ビット浮動小数点方式の元データの絶対値の最大値を３２ビットより小さいビットの整数値の絶対値の最大値で割って圧縮率を求める。例文帳に追加

In an external compressing device 2, for example, a compression rate is calculated by dividing the maximum value of the absolute value of original data in a 32 bit floating point system by the maximum value of the absolute value of an integer value whose bits are smaller than 32 bits. - 特許庁

ＲＧＢの各色の明度を、仮数部６ビット、指数部ｌｏｇ_２（２４）ビット（約４．５８５ビット）の浮動小数点形式で表現し、ｌｏｇ_２（２４）ビットの指数部では、ｍ＊２^ｎ〜ｍ＊２^ｎ＋２３の範囲を表現できるようにする。例文帳に追加

Brightness of each color of RGB is represented in a floating-point format of a mantissa part of 6 bits and an exponent part of log_2(24) bits (about 4,585 bits), and a range of m*2^n-m*2^n+23 can be represented in the exponent part of log_2(24) bits. - 特許庁

バックアップメモリに格納する浮動小数点数形式のデータの非数の有無の判定及び初期化を、演算負荷を増加させることなく実行できる組込み制御装置を提供する。例文帳に追加

To provide a built-in controller for executing the determination and initialization of presence/no presence of nonnumeric character of data of a floating point number format stored in a backup memory without increasing an arithmetic load. - 特許庁

浮動小数点数形式のデータによる演算精度を確保し、且つ、記憶装置の記憶領域の不足を回避することができる組み込み制御装置を提供する。例文帳に追加

To provide an embedded control system capable of ensuring precision in arithmetic with data in the floating-point format and also avoiding a shortage of the storage area of a memory. - 特許庁

浮動小数点形式で記述された数値から構成される数列の自乗和を含む演算を実行する際に、オーバーフローの予測を低い計算負荷で行うことが可能な技術を提供する。例文帳に追加

To provide a technique capable of performing prediction of overflow with a reduced calculation load in execution of an operation including sum of squares of a numeric sequence consisting of numerical values described in a floating-point form. - 特許庁

補間近似計算に用いるルックアップテーブルの容量を抑えつつ、浮動小数点形式として与えられる関数入力値の演算を高精度に実現する。例文帳に追加

To precisely realize an arithmetic operation of inputted values of functions given in a floating point form while controlling the capacity of a look-up table used for an interpolation approximate calculation. - 特許庁

本発明の演算方法は、浮動小数点方式で表現された数値から構成される数列の自乗和を含む演算に係るオーバーフローを予測する演算方法である。例文帳に追加

This operation method is an operation method for predicting overflow related to an operation including sum of squares of a numeric sequence consisting of numerical values expressed in the floating-point form. - 特許庁

ＦＩＲフィルタ処理部１２は浮動小数点形式の擬似エコー信号を生成し、加算器１４は上記擬似エコー信号を収音信号から差し引き第１補正信号を生成する。例文帳に追加

The FIR filter processing unit 12 generates a pseudo echo signal in the floating point form and the adder 14 subtracts the pseudo echo signal from a collected sound signal to generate a first correction signal. - 特許庁