首先上结论: 当涉及浮点数比较时,一定要考虑比较符号两侧都是inf的情况.
原因: inf==inf,inf<=inf,inf=inf 这三个比较都为真(-inf同理),而这种结果可能与我们的期望不符.
解决方法:
1. 如果为真是可以接受的,那么直接使用比较运算符,例如a<=b
2. 如果为真是不可以接受的,那么应当使用作差,例如(a-b)<=0
, 这种情况下,当a和b都为inf时,inf之间的运算会输出NaN,从而导致比较结果为false
例如,我有这样一个应用场景:
有射线R和两个平面S0及S1,我们需要求射线R与平面S0的交点p0,以及射线R与平面S1的交点P1. 且要求p0不能比p1离射线起点更远(可以重合)
假如我们用直线的参数方程来描述交点,显然,上面的目标很容易用 t0<=t1 … Read More