@kihee JavaとExcelで同じような関数で計算してるんですが、小数点2位で誤差でるんすよね。。

Follow

@kumanotetu 言語仕様による誤差なのか、関数の実装誤差なのか、結構大きいですねー。不用意に丸めると実用上の影響もありそうですね。

@kihee
Excelの1セルに計算式埋め込んでるんですが、精度出すには何かまだ必要なのかもですねー🤔

少なくともJavaでならいけますが、気軽に扱えるようにしたいのでExcelにしてます

なお計算式はリバースエ(非表示

@kumanotetu アレですね、ウフフ😊
もう1桁精度上げられれば実用上は問題なさそうなんですけどねー

@kihee ですねー
小数点2位まで一致すれば後は誤差としても良さそうですけど…ぐぬぬ

Sign in to participate in the conversation
ミニ四駆DON

ミニ四駆好きが集まる雑談中心のインスタンスです