.NET开发

本类阅读TOP10

·NHibernate快速指南(翻译)
·vs.net 2005中文版下载地址收藏
·【小技巧】一个判断session是否过期的小技巧
·VB/ASP 调用 SQL Server 的存储过程
·?dos下编译.net程序找不到csc.exe文件
·通过Web Services上传和下载文件
·学习笔记(补)《.NET框架程序设计(修订版)》--目录
·VB.NET实现DirectDraw9 (2) 动画
·VB.NET实现DirectDraw9 (1) 托管的DDraw
·建站框架规范书之——文件命名

分类导航
VC语言Delphi
VB语言ASP
PerlJava
Script数据库
其他语言游戏开发
文件格式网站制作
软件工程.NET开发
.NET数值类型的精度

作者:未知 来源:月光软件站 加入时间:2005-2-28 月光软件站

float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
    public static void Main()
    {
        Console.WriteLine((int)123456789F);
    }
}
输出结果为123456792.

double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
    public static void Main()
    {
         Console.WriteLine((long)123456789012345678D);
    }
}
输出结果为123456789012345680

decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.




相关文章

相关软件