なんて実用的なオモチャ……
@kihee JavaとExcelで同じような関数で計算してるんですが、小数点2位で誤差でるんすよね。。
Follow
@kumanotetu 言語仕様による誤差なのか、関数の実装誤差なのか、結構大きいですねー。不用意に丸めると実用上の影響もありそうですね。
@kumanotetu アレですね、ウフフ😊
もう１桁精度上げられれば実用上は問題なさそうなんですけどねー
@kihee ですねー
小数点2位まで一致すれば後は誤差としても良さそうですけど…ぐぬぬ
@kihee
Excelの1セルに計算式埋め込んでるんですが、精度出すには何かまだ必要なのかもですねー🤔
少なくともJavaでならいけますが、気軽に扱えるようにしたいのでExcelにしてます
なお計算式はリバースエ（非表示