浮点数误差分析及补偿
在各种渲染引擎中使用浮点数几乎可以肯定一定会产生浮点数误差，而渲染引擎的大量计算量也不允许使用其他特别高精度的浮点数，因而需要一定程度的精度补偿。事实上，浮点数并不适合用于精确计算，而适合进行科学计算。 float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字； double […]
在各种渲染引擎中使用浮点数几乎可以肯定一定会产生浮点数误差，而渲染引擎的大量计算量也不允许使用其他特别高精度的浮点数，因而需要一定程度的精度补偿。事实上，浮点数并不适合用于精确计算，而适合进行科学计算。 float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字； double […]
许多事情在生活中太难以评估，特别是当它涉及非常大的数字。例如，计算一个国家的成年人口的平均高度，将需要测量每个人的身高，身高值相加除以总人数。这明显是不可能的，这种任务需要很长的时间，非常难以求解。在这种情况下，可以做的是取一个样本的人口并计算其平均高度，以此来估算整个国家人口的平均高度。这是统计学中最简单的概念。 需要特别提醒的是，在这个例子中，随机选取的人的身高是随机数， […]