怎样才能让C#数值计算的准确?我有一段代码：doubledTDMNY=iTDVOL*fTDPRC;其中iTDVOL类型为int32值为144423,fTDPRC类型为float值为7.95,结果计算出dTDMNY的值为：1148162.8224534988,我中断程序,查看iTDVOL*fTD

Question

怎样才能让C#数值计算的准确?
我有一段代码：
double dTDMNY = iTDVOL * fTDPRC;
其中iTDVOL类型为int32值为144423,fTDPRC类型为float值为7.95,结果计算出dTDMNY 的值为：1148162.8224534988,我中断程序,查看 iTDVOL * fTDPRC的乘积为1148162.88,而我用手头的计算器算出来的值为1148162.85,我手工算了一下,发现只有计算器是正确的,C#中那一部分算的都有偏差,怎样才能让C#算出一个准确的值呢?

Answer 1

int类型和float类型的乘积 是 float类型.,float类型的有效数字大概只有7,8位,
1148162.85 已经超过了有效数字了,
你可以先转成double
double dTDMNY = iTDVOL * (double)fTDPRC;