注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
コンピュータの処理能力は有限です。これを最大限に活用するために仕方なく生じる誤差があります。コン... コンピュータの処理能力は有限です。これを最大限に活用するために仕方なく生じる誤差があります。コンピュータを使う我々は、この誤差に上手に対処する必要があります。 それはちょうど、のこぎりの刃の厚みに例えることができます。のこぎりで木を切るためには、刃の厚みが薄ければ薄いほど便利です。しかし、あまりに刃が薄いと、引くときは良いのですが押すときに刃がしなってしまいます。のこぎりの刃の厚みは、使いやすさの視点から現在の厚みに落ち着いているわけです。 道具は使いやすさのために、なにがしかの妥協を必要とする点があるものです。上手にコンピュータで計算を行うために、今回の項目をしっかり理解しておきましょう。 図12.1 道具の弱点を逆に活かすのが「技」 浮動小数点数で発生するエラーや誤差 浮動小数点数の仕組み上避けられないエラーや誤差には次に挙げるものがあります。 オーバーフロー／アンダーフロー 桁落ち
2015/03/30 リンク