Reply To: lumopt 问题咨询

[GuanYo Dong]

你好,

這兩問題,確實有可能是數值誤差引起的。您可以理解數位運算的時候小數點的長度有限,所以難免最後一個位數需要取捨,因此越多的運算就會累積越多這種誤差。

那您的第二個問題比較好說明,
當中心點是由max跟min決定,那我們的max跟min 一個正一個負,一點點偏差就容易看到0附近的誤差,
當由中心點跟span來計算min與max,因為min與max的值不在0,那個誤差可能存在但是占比GUI中我們看不出來,其實也不一定不存在。

這種誤差建議相同的運算我們算一次之後給一個名稱帶入，避免重複算,對於大量運算也會比較快
比如我們知道 power monitor 跟 index monitor  Z的中心位置就是a+b/2, 那我們用A=a+b/2,之後定義Z中心就用A去代替

請您先試試看這種方式來修改第一題的腳本。

莎益博 董冠佑