golang 比较浮点数的大小方式
更新时间:2021年5月1日 20:00 点击:2234
Golang浮点数比较和运算会出现误差。
浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差。
package main import ( "errors" "fmt" "github.com/shopspring/decimal" ) func FloatCompare(f1, f2 interface{}) (n int, err error) { var f1Dec, f2Dec decimal.Decimal switch f1.(type) { case float64: f1Dec = decimal.NewFromFloat(f1.(float64)) switch f2.(type) { case float64: f2Dec = decimal.NewFromFloat(f2.(float64)) case string: f2Dec, err = decimal.NewFromString(f2.(string)) if err != nil { return 2, err } default: return 2, errors.New("FloatCompare() expecting to receive float64 or string") } case string: f1Dec, err = decimal.NewFromString(f1.(string)) if err != nil { return 2, err } switch f2.(type) { case float64: f2Dec = decimal.NewFromFloat(f2.(float64)) case string: f2Dec, err = decimal.NewFromString(f2.(string)) if err != nil { return 2, err } default: return 2, errors.New("FloatCompare() expecting to receive float64 or string") } default: return 2, errors.New("FloatCompare() expecting to receive float64 or string") } return f1Dec.Cmp(f2Dec), nil } func main() { a:=4.0 b:="4" fmt.Println(FloatCompare(a,b)) }
补充:golang 判断2个浮点型数字是否相同
判断2个浮点型数字是否相同的方法(假定整数部分+小数点后3位相同,则视为相同)
首先将2个浮点型数字转换为string数据
将float类型的数据转换成string
func Decimal(value float32) string { value1 := fmt.Sprintf("%.6f", value) return value1 }
比较两个由float型数据转化成string的数据是否相同是否相同
func Compare(val1,val2 string) bool { indexf :=strings.Index(val1,".") + 4 indexs :=strings.Index(val2,".") + 4 if indexs != indexf { return false }else { if val1[0:indexf] == val2[0:indexs]{ return true }else { return false } } }
补充:golang 浮点数操作
数据库中金额元存储的数据结构使用的是decimal(15,2),golang中使用float64保存变量内容。通过转换将 float64 -> int64
最简单的方式:int64(float64 * 100),但是由于浮点数在计算机内的表示方式问题导致有一部分数据会出现问题,
例如:
var v = 67.6 fmt.Println(int64(v *100)) 输出结果为:6759
解决方法:
使用"github.com/shopspring/decimal"包,将对浮点数进行精确计算,例如:
f1 := decimal.NewFromFloat(v) f2 := decimal.NewFromFloat(100) fmt.Println(f1.Mul(f2).IntPart()) 输出结果为6760
以上为个人经验,希望能给大家一个参考,也希望大家多多支持猪先飞。如有错误或未考虑完全的地方,望不吝赐教。
相关文章
pytorch nn.Conv2d()中的padding以及输出大小方式
今天小编就为大家分享一篇pytorch nn.Conv2d()中的padding以及输出大小方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-04-27- 这篇文章主要介绍了golang 调用 php7详解及实例的相关资料,需要的朋友可以参考下...2017-01-15
- 在本篇内容里小编给大家分享的是关于C#比较时间大小的方法总结,对此有需要的朋友们可以学习下。...2020-06-25
安卓利用按钮Button更改的字体大小、字体颜色、背景颜色代码
本文章来介绍在android开发中,我们通过button按钮来动态改变字体大小、字体颜色、背景颜色代码,有需要了解的朋友可参考参考。 实现的逻辑:通过遍历View的方式,判断Vi...2016-09-20- 这篇文章主要介绍了java 用itext设置pdf纸张大小操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-01-31
- 这篇文章主要介绍了go浮点数转字符串保留小数点后N位解决办法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下...2020-05-11
- 这篇文章主要介绍了用golang实现替换某个文件中的字符串操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-04-25
- 这篇文章主要介绍了golang在GRPC中设置client的超时时间,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-04-27
- matploglib能够绘制出精美的图表,有时候我们希望把一组图放在一起进行比较,就需要用到matplotlib中提供的subplot了,这篇文章主要给大家介绍了关于python中subplot大小的设置方法,需要的朋友可以参考下...2021-06-28
- 这篇文章主要介绍了解决Golang json序列化字符串时多了\的情况,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-12-24
Golang中的自定义类型之间的转换的实现(type conversion)
这篇文章主要介绍了Golang中的自定义类型之间的转换的实现(type conversion),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2021-02-21- 这篇文章主要介绍了golang与php实现计算两个经纬度之间距离的方法,结合实例形式对比分析了Go语言与php进行经纬度计算的相关数学运算技巧,需要的朋友可以参考下...2016-07-29
解决golang处理http response碰到的问题和需要注意的点
这篇文章主要介绍了解决golang处理http response碰到的问题和需要注意的点,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-12-16- 浮点数就是有很我小数的那种并且不只单纯了数字了,而小编在用支付接口时就碰到浮点数丢失的问题,下文一起来看看问题解决方法. 先看下面这段代码: $f = 0.57; echo...2016-11-25
- 这篇文章主要介绍了golang http使用踩过的坑与填坑指南,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-04-27
怎么限制Apache日志文件大小(error.log、access.log)
如何删除error.log、access.log文件以及限制Apache日志文件大小的方法介绍,Apache服务器下access.log以及error.log日志文件一直没有没有动过,今天wordpress 的MYSQL数据库连...2016-01-28- 这篇文章主要介绍了C++获取文件大小的4种常见技巧分享,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2021-02-23
- 这篇文章主要介绍了golang文件读取-按指定BUFF大小读取方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-12-22
- Go(又称Golang)是Google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的编程语言。这篇文章给大家介绍golang 正则表达式的相关知识,感兴趣的朋友跟随小编一起看看吧...2021-05-07
- 这次文章为大家带来的是一个比较实用的示例:利用Golang生成整数随机数,对此感兴趣的可以一起来看看。 php随机数生成一个给定范围的随机数,用 PHP 就太简单不过了,而...2017-07-06