なんて実用的なオモチャ……
@kihee JavaとExcelで同じような関数で計算してるんですが、小数点2位で誤差でるんすよね。。
@kumanotetu 言語仕様による誤差なのか、関数の実装誤差なのか、結構大きいですねー。不用意に丸めると実用上の影響もありそうですね。
@kihee Excelの1セルに計算式埋め込んでるんですが、精度出すには何かまだ必要なのかもですねー🤔
少なくともJavaでならいけますが、気軽に扱えるようにしたいのでExcelにしてます
なお計算式はリバースエ(非表示
@kumanotetu アレですね、ウフフ😊 もう1桁精度上げられれば実用上は問題なさそうなんですけどねー
@kihee ですねー小数点2位まで一致すれば後は誤差としても良さそうですけど…ぐぬぬ
ミニ四駆好きが集まる雑談中心のインスタンスです
@kumanotetu アレですね、ウフフ😊
もう1桁精度上げられれば実用上は問題なさそうなんですけどねー