2021-04-05から1日間の記事一覧
他人のマクロのバグ取りはつらい。 roundの丸め用の数値と、put等で利用するformatの桁数には違いがある。 というのは、結構面倒臭いのだが、 format w.d round 10**(-d) という関係なのであるよと。ただし、d>=0の整数。 data _NULL_ ; a=123.4567891234 ; …
他人のマクロのバグ取りはつらい。 roundの丸め用の数値と、put等で利用するformatの桁数には違いがある。 というのは、結構面倒臭いのだが、 format w.d round 10**(-d) という関係なのであるよと。ただし、d>=0の整数。 data _NULL_ ; a=123.4567891234 ; …