详细分析sqlserver中的小数类型(float和decimal)

 更新时间:2020年12月8日 11:31  点击:1961

在SQL Server中实际上只有两种小数数值类型,分别是float(近似数值)和decimal(精确数值),这两种类型能表示所有的小数数值类型。

float(近似数值类型)

float表示的是近似数值,存在一定的精度缺失。

float(n)

这里的n是以科学计数法存储浮点数尾数的位数,因此此参数决定了精度和存储的大小。其是可选的,默认值是53,即float等价于float(53),占用8bytes。如果指定了n,则它必须是介于1至53之间的值。实际上,虽然n的取值范围定义是1至53,但实际上float只能表示float(53)和float(24)两种类型,分别占用8bytes和4bytes。

n的范围 精度 存储大小
1-24(都视为24) 7位小数 4bytes
25-53(都视为53) 15位小数 8bytes 

使用近似数值要格外注意尽量避免相等比较,因为比如1可以被存储为1.000000056,也可以被存储为1.00000000672,进行相等比较会得到意料之外的结果。

decimal(精确数值类型)

decimal表示的是精确数值类型。不存在精度损失,别名是numeric。

decimal(p, s)
-- 等价于
numeric(p, s)

精确数值类型需要分别指定小数的最大位数(p)和小数位的数量(s):

  • p(precision):指定小数的最大位数,小数点的左侧和右侧的数字的总数量不能超过p,p的取值范围是从1到38,默认值为18。
  • s(scale):指定在小数点右侧的小数位数,p-s是小数点左边的最大位数。s必须是从0到p的值,只有在指定了精度的情况下才能指定s,s的默认值是0,因此,0 <= s <= p。

p的大小也同时决定了存储位数的大小:

精度大小 存储位数
1-9 5
10-19 9
20-28 13
29-38 17

因为p和s必须遵守规则:0 <= s <= p <= 38,所以decimal(p, s)实际上能够表示的有效值是从-10^38+1到10^38-1。这就意味着,decimal数据类型的最大精度是38,即最多可以存储38位数字,所有这些数字均可位于小数点后面。decimal数据类型存储精确的数字表示形式,没有近似值。

小数的除法

小数的除法实际上是近似运算,因此在使用除法的时候SQL Server会自动将小数的类型提升为float类型(隐式数据类型升级)。

小数常量的默认数据类型是decimal,但是float类型的优先级比decimal类型要高。在默认的情况下,SQL Server会将小数数值的常量自动转换为decimal数据类型(常态下),而在进行小数的除法运算的时候,则会就近进行数据类型的升级,转换为float(24)或float(53)数据类型(运算时)。

简单举个例子,常量12.345在常态下会被解析并转换为numeric(5, 3)的数值类型,即使用最小精度5和最小小数位数3;而在运算除法时,比如12.345/2则会被解析并转换为float(24),即最小精度的近似数值类型。

小数转为字符串

相比cast(float_expression as float(24/53)),使用str()函数更能够有效控制近似数值的小数位数,因为str()函数获取的是近似数值。

str(float_expression [ , length [ , decimal ] ])

str()函数可以接受length、decimal两个参数,皆是可选的。

  • length是小数的总位数,包含正负符号,小数点,小数点左边和右边数字个数之和;
  • decimal是小数位的数量(小数点右边数字个数),小数位最大为16位,不能超过16,否则,会被截断为16位。如果小数位没有decimal多,那么右边补0。
  • 返回值是varchar类型。

将decimal常量转换为varchar类型:

select str(123.45, 10, 2); -- 123.45

将float表达式的值转换为varchar类型(位数不足自动补0):

select str(1.0/3, 10, 8); -- 0.33333300

对小数常量转换为varchar类型,减少小数位的数量,由2位减少为1位(会自动进行四舍五入运算):

select str(123.45, 6, 1); -- 123.5

使用函数str或cast将float和decimal强制转换为varchar类型时,返回的数值可能是不相同的:

select str(56.64564684439527, 38, 20); -- 56.64564684438742000000
select cast(56.64564684439527 as varchar(100)); -- 56.64564684439527

这是因为两种函数的处理方式的不同导致的:str()函数会对小数数值先取近似值;而cast()函数则是返回与原始值数据类型相同的值(decimal返回精确值,float返回近似值)。

以上就是详细分析sqlserver中的小数类型(float和decimal)的详细内容,更多关于sqlserver 小数类型的资料请关注猪先飞其它相关文章!

[!--infotagslink--]

相关文章

  • Python astype(np.float)函数使用方法解析

    这篇文章主要介绍了Python astype(np.float)函数使用方法解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下...2020-06-08
  • C#中decimal保留2位有效小数的实现方法

    这篇文章主要介绍了C#中decimal保留2位有效小数的实现方法,针对decimal变量保留2位有效小数有多种方法,可以使用Math.Round方法以及ToString先转换为字符串等操作来实现。具体实现方法感兴趣的朋友跟随小编一起看看吧...2020-06-25
  • SQL Server中row_number函数的常见用法示例详解

    这篇文章主要给大家介绍了关于SQL Server中row_number函数的常见用法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2020-12-08
  • C#查询SqlServer数据库并返回单个值的方法

    这篇文章主要介绍了C#查询SqlServer数据库并返回单个值的方法,涉及C#操作SQLServer数据库查询的相关技巧,需要的朋友可以参考下...2020-06-25
  • SQLServer 错误: 15404,无法获取有关 Windows NT 组/用户 WIN-8IVSNAQS8T7\Administrator 的信息

    SQLServer 错误: 15404,无法获取有关 Windows NT 组/用户 'WIN-8IVSNAQS8T7\Administrator' 的信息,错误代码 0x534。 [SQLSTATE 42000] (ConnIsLoginSysAdmin)...2021-07-15
  • C#中float的取值范围和精度分析

    这篇文章主要介绍了C#中float的取值范围和精度,较为详细的分析了float的取值范围与表示方法及精度等概念,有助于深入了解C#数据类型,需要的朋友可以参考下...2020-06-25
  • SQL SERVER迁移之更换磁盘文件夹的完整步骤

    这篇文章主要给大家介绍了关于SQL SERVER迁移之更换磁盘文件夹的完整步骤,文中通过图文介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2020-12-08
  • CentOS8安装SQLServer2019的过程

    这篇文章主要介绍了CentOS8安装SQLServer2019的步骤,本文通过命令实例相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下...2020-07-11
  • SqlServer 数据库 三大  范式

    本文将基于三大范式原则,结合具体的实例做简要分析,对SqlServer 数据库 三大 范式相关知识感兴趣的朋友一起看看吧...2020-07-11
  • sql server日志处理不当造成的隐患详解

    这篇文章主要给大家介绍了关于sql server日志处理不当造成的隐患的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用sql server具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧...2020-07-11
  • PHP在Linux下连接MSSQLServer的配置方法简述(一、Sybase库)

    如果需要在Linux下访问Microsoft SQL Server或Sybase数据库,则推荐下列软件包。 SybaseCommon http://download.sybase.com/pub/ase1192_linux/sybase-common-11.9....2016-11-25
  • sqlserver添加sa用户和密码的实现

    这篇文章主要介绍了sqlserver添加sa用户和密码的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2021-05-07
  • C#中Decimal类型截取保留N位小数并且不进行四舍五入操作

    这篇文章主要介绍了C#中Decimal类型截取保留N位小数并且不进行四舍五入操作,本文给出需求说明和实现代码,需要的朋友可以参考下...2020-06-25
  • c#操作sqlserver数据库的简单示例

    这篇文章主要介绍了c#操作sqlserver数据库的简单示例,需要的朋友可以参考下...2020-06-25
  • C# 启动 SQL Server 服务的实例

    下面小编就为大家分享一篇C# 启动 SQL Server 服务的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-06-25
  • sql server数据库中raiserror函数用法的详细介绍

    这篇文章主要介绍了sql server数据库中raiserror函数用法的详细介绍,raiserror用于抛出一个异常或错误,让这个错误可以被程序捕捉到。对此感兴趣的可以了解一下...2020-12-08
  • sqlserver中distinct的用法(不重复的记录)

    distinct这个关键字用来过滤掉多余的重复记录只保留一条,但往往只用它来返回不重复记录的条数,而不是用它来返回不重记录的所有值。其原因是distinct只有用二重循环查询来解决,而这样对于一个数据量非常大的站来说,无疑是会直接影响到效率的。...2020-07-11
  • SqlServer 表单查询问题及解决方法

    这篇文章主要介绍了SqlServer 表单查询问题及解决方法,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下...2020-07-11
  • sqlserver 批量数据替换助手V1.0版发布

    前段时间网站被挂马,数据库表中很多文本字段都被加上了一段js脚本。修复完程序漏洞之后便开始着手清理这些被注入的数据,其间参考了一些网上的方法,大都是写一个存储过程进行一个表一个表逐一清理。...2021-09-22
  • c++读取sqlserver示例分享

    这篇文章主要介绍了c++读取sqlserver的示例,需要的朋友可以参考下...2020-04-25