How do I cope with rounding errors on doubles in vb.net?
我正在尝试使用vb.net平衡一组货币值。这两个值的总和都转换为双精度值。在某些情况下,我会得到舍入误差。
最好的方法是什么?有没有我可以优先使用的类型?如何将结果值四舍五入到小数点后两位?
这是我的代码-我可能不需要显示它,但以防万一。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 | Dim nInvValue As Double Dim nCreditValue As Double For Each oReferenceItem In oMatchInvoices Dim nUnallocated As Double = oReferenceItem.DocumentOutstandingValue - oReferenceItem.DocumentAllocatedValue If ((nUnallocated <> 0) And (sReferenceValue = oReferenceItem.InstrumentNo)) Then iCount = iCount + 1 If (oReferenceItem.IsDebit) And (nUnallocated > 0) Then nInvValue = nInvValue + nUnallocated InvoiceList.Add(nUnallocated.ToString("c"), oReferenceItem.URN.ToString) End If If (oReferenceItem.IsCredit) And (nUnallocated < 0) Then nCreditValue = nCreditValue - nUnallocated CreditList.Add(nUnallocated.ToString("c"), oReferenceItem.URN.ToString) End If End If Next |
对于财务计算,我认为目前的智慧是使用小数而不是双数。
您可能对这个讨论感兴趣,十进制和double。
尝试使用十进制类型。
十进制-十进制