numpyにはまる
pretty_midi のユーティリティが、バグった。
どうしてもある小節でテンポが合わない。
調べてみると、numpy float64では、実表記としては17桁持っているらしく、
7桁計算とは誤差が大きくなって、round すると、ズレる。
うう。
先を急ぐのでこの、追求はやめて、フロントのJavaScript で逃げた。
連休の中日にでも、追求しよう。
帰宅したら、息子がdockerでハマっていた。親子して。。なにやっとんのじゃ。
pretty_midi のユーティリティが、バグった。
どうしてもある小節でテンポが合わない。
調べてみると、numpy float64では、実表記としては17桁持っているらしく、
7桁計算とは誤差が大きくなって、round すると、ズレる。
うう。
先を急ぐのでこの、追求はやめて、フロントのJavaScript で逃げた。
連休の中日にでも、追求しよう。
帰宅したら、息子がdockerでハマっていた。親子して。。なにやっとんのじゃ。