餡子付゛録゛

ソフトウェア開発ツールの便利な使い方を紹介。

2011-04-10から1日間の記事一覧

PHPの設定オプションprecisionが17以上のときの挙動

PHP

id:hnw氏が以前のエントリのコメントで「PHPの新しいround関数にバグをみつけた」の詳しく説明してくれました。 なるほどなるほど。私は以下の理由で勘違いをしていたようです。 JavaのFormatNumberも17桁以上の有効桁数は取らない new BigDecimal("10000000…

1000000000000000.125はIEEE754倍精度浮動小数点の範囲内?

PHP

id:hnw氏に、延髄反射で早合点するなバーカと言われました。derick氏と同じにされてケシカラン。私は早合点ですが、derick氏は理解した上でBogusにしているのだと思います。 1000000000000000.125と19桁指定がBogusにされた理由 derick氏が早合点では無いバ…