微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

c# – 为什么10亿* 100 = 12亿?

我有代码将单元格的认值设置为上面的单元格的值乘以100:

const int DUCKBILL_MULTIPLIER = 100;
. . .
cellValue = dataGridViewPlatypi.Rows[args.RowIndex - 1].Cells[0].Value;
if (Convert.ToInt32(cellValue) > 0)
{
    int nextDefaultVal = Convert.ToInt32(cellValue) * DUCKBILL_MULTIPLIER;
    cellValue = nextDefaultVal;
}
prevVal = cellValue == null ? string.Empty : cellValue.ToString();
. . .
dataGridViewPlatypi.Rows[args.RowIndex].Cells[args.ColumnIndex].Value = prevVal;

但是,一旦上述值达到10亿(10亿),下一个值就是1215752192(1,215,752,192或大约12亿),而不是1000亿.

据我所知,max int值是2,147,483,647(约21亿);那么为什么下一个值为1,192而不是2,647?

顺便说一下,这些val比应用程序需要的要大,但我在测试“极端”情况时发现了这个.

解决方法

因为发生了多次溢出.每次达到2,647时,计数重新开始.现在,你必须记住它溢出到-2,648.所以我们必须考虑整个Int32范围,即4,294,967,296(它可以从(Int64)Int32.MaxValue 1 – Int32.MinValue或简单地计算为2 ^ 32.

数学:

(1 billion * 100) % (4,296) = 1215752192

C#代码中的概念证明:

var range = (Int64)Int32.MaxValue + 1 - Int32.MinValue;
Int64 val = 100000000000 % range;
Console.WriteLine(range);
Console.WriteLine(val);

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐