端数処理

読み方、または別称:はすうしょり

端数処理(はすうしょり)はしばしば丸める(まるめる)と言うが、ある数値を、一定の丸め幅の整数倍の数値に置き換えることであり、通常、10の整数乗(...、100、10、1、0.1、0.01、...)が丸め幅とされる。

丸めは任意の丸め幅で可能であり、特に制約がない限り丸め幅は1とし、任意の丸め幅で丸めるには丸める前に丸め幅で割り、丸めた後に丸め幅をかける。

整数部分をそのままにして、小数点以下を0とする丸め方を切り捨てと言い、それに対し、小数点以下が0でなかった場合に整数部分を1増やし、小数点以下を0とする丸め方を切り上げという。なお、負の数を含めると、切り捨てと切り上げの丸めは4種類になる。

符号に関係なく絶対値を丸める場合、切り捨ては0へ近づくので、0への丸め (rounding toward zero)と呼ばれ、切り上げは数直線上の無限遠点へ近づくので、無限大への丸め (rounding toward infinity)と呼ばれる。一方、正の数と増減を同じ向きにする場合は、切り捨ては減るので負の無限大への丸め (rounding toward minus infinity)になり、切り上げは増えるので正の無限大への丸め (rounding toward plus infinity)と呼ばれる。

ページトップへ戻る

話題の用語~今ホットな用語をご紹介

ITと社会用語辞典

ワークロード

ワークロードとは、システムのパフォーマンスを適正な状態に保つための指標のこと。

インターネット用語辞典

ライフログ

ライフログとは、人間の活動の記録(行動履歴)をデジタルデータとして記録すること、およびその記録のことである。

ページトップへ戻る