"计算的时候除数等于 0,算出来的结果就是 OE-20,怎么让它等于 0 呢"
计算的时候除数等于 0,算出来的结果就是 OE-20,怎么让它等于 0 呢
写个表达式试试,if(除数 ==0,0,被除数 / 除数)
这一列本来就是个表达式,是上一列的值 / 第一列的值 *10000,如果上一列的值等于 0 的话,的出来的数就成了 Oe-20 了
貌似没毛病, if(第一列的值 ==0,0,上一列的值 / 第一列的值 *10000)
我试试
浮点数是不精确(原因是用 2 进制不可能精确地表示 10 进制小数,这是润乾研发部的一道招聘考题),x==0 这种比较很可能算出假值,一般用绝对值很小来替换。比如 abs(x)<1E-20 就算是 0 了。整数才能精确比较。
写个表达式试试,if(除数 ==0,0,被除数 / 除数)
这一列本来就是个表达式,是上一列的值 / 第一列的值 *10000,如果上一列的值等于 0 的话,的出来的数就成了 Oe-20 了
貌似没毛病, if(第一列的值 ==0,0,上一列的值 / 第一列的值 *10000)
我试试
浮点数是不精确(原因是用 2 进制不可能精确地表示 10 进制小数,这是润乾研发部的一道招聘考题),x==0 这种比较很可能算出假值,一般用绝对值很小来替换。比如 abs(x)<1E-20 就算是 0 了。
整数才能精确比较。