コーディング の 桁落ちに関する解説。

株式会社 日立ソリューションズ

HITACHI Inspire the Next

  • ホーム
  • ソリューション・商品
  • 事例紹介
  • セミナー・展示会
  • ビジネスコラム
  • 企業情報
  • お問い合わせ

桁落ち

読み方、または別称:けたおち

桁落ち(cancellation of significant digits)とは、浮動小数点の演算において、ごく近い数値同士の減算や、計算結果が0に近くなる加減算によって有効数字の桁数が少なくなる現象。
例えば、演算前の数値が「1.23456789」の場合、有効数字の桁数は9だが、計算を行って結果が「0.001」となった場合、有効数字の桁数は1桁になってしまう。桁落ちとは、このような極端に桁数が少なくなることをいう。
コンピュータでの浮動小数点形式の計算においては、有効数字の桁数は揃えて演算を行うことが要求されるため、桁落ちが起こると足りない桁数には「0」が強制的に挿入される。そのため、桁落ちが起こった場合、数値計算処理によっては、大きな誤差が生じてしまう場合がある。
桁落ちを回避するには、例えば3つ以上の数値の計算の場合は、数値計算の処理順序を変更してごく等しい数値の加減算を避けるようにしたり、計算する数値が2つの場合は、計算式を3つ以上の数値の計算式に変更して計算を行うなど工夫が必要になる。

ページトップへ戻る

話題の用語

ITと社会用語辞典

ワークロード

ワークロードとは、システムのパフォーマンスを適正な状態に保つための指標のこと。

インターネット用語辞典

ライフログ

ライフログとは、人間の活動の記録(行動履歴)をデジタルデータとして記録すること、およびその記録のことである。

ページトップへ戻る

情報漏洩防止ソリューション 「秘文」

ITのお悩みをソリュっと解決! 特命課ソリュートくんがいく!

『オムニチャネル』から商品を探すページです。日立ソリューションズは、コンサルティングからシステム構築、サポートとトータルソリューションをご提供するシステムインテグレーション企業です。

ページトップへ戻る