paiza開発日誌

IT/Webエンジニア向け総合求人・学習サービス「paiza」(https://paiza.jp ギノ株式会社)の開発者が開発の事、プログラミングネタ、ITエンジニアの転職などについて書いています。

2017-08-01から1日間の記事一覧

Python3で巨大な浮動小数計算の結果が変だったので理由を調べてみた

Photo by Jacob Munk-Stander 秋山です。タイトルのとおり、Python3で巨大な浮動小数計算をした時の計算結果についての話です。例えば、 11 × ÷ 10 という計算式があったとしましょう。普通に人力で単純に計算しようと思ったら、10の23乗を計算して、それか…