解决了个困扰了2天的问题,定点运算问题
更新时间：2020年4月25日 17:34 点击：2207
分母变小了，相当于左移了
复制代码 代码如下:
a=1-b/c;
|b|<pow(2,23)
|c|=pow(2,26)
|b|<pow(2,23)
|c|=pow(2,26)
|a|<1
在运算个过程中，需要把该运算转换成定点运算。
想了2天，都没有想出怎么可以保证a的精度，因为a可能很小，如果简单的
复制代码 代码如下:
a<<=8;
是无法保证a的精度的。
今天快要下班时，突然有灵机一动：
复制代码 代码如下:
c>>=6;
b<<=8;
a=1<<14-b/c; //相当于 a<<14，保证了a的精度
b<<=8;
a=1<<14-b/c; //相当于 a<<14，保证了a的精度
分子不能左移太多位，分母右移，解决问题了。
发散思维说起来很容易，做起来不容易呀！
以上就是本文的全部内容，希望能给大家一个参考，也希望大家多多支持猪先飞。
相关文章
- 这篇文章主要给大家介绍了关于C#位运算以及实例计算的相关资料，文中通过示例代码介绍的非常详细，对大家学习或者使用C#具有一定的参考学习价值，需要的朋友们下面来一起学习学习吧...2020-06-25
- 在C#中可以对整型运算对象按位进行逻辑运算。按位进行逻辑运算的意义是：依次取被运算对象的每个位，进行逻辑运算，每个位的逻辑运算结果是结果值的每个位。...2020-06-25
- 这篇文章主要介绍了JavaScript前端开发时数值运算的小技巧，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧...2020-07-28
- 这篇文章介绍了C#实现大数字运算的实例代码，有需要的朋友可以参考一下...2020-06-25
- 这篇文章主要介绍了python 负数取模运算实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2020-06-04
- 这篇文章主要为大家详细介绍了C++使用string的大数加法运算，具有一定的参考价值，感兴趣的小伙伴们可以参考一下...2020-04-25
PHP采用超长(超大)数字运算防止数字以科学计数法显示的方法
这篇文章主要介绍了PHP采用超长(超大)数字运算防止数字以科学计数法显示的方法,涉及PHP数学运算及字符串操作的相关技巧,需要的朋友可以参考下...2016-04-07- 今天小编就为大家分享一篇关于运用指针在不用加号的情况进行加法运算的讲解，小编觉得内容挺不错的，现在分享给大家，具有很好的参考价值，需要的朋友一起跟随小编来看看吧...2020-04-25
- 今天小编就为大家分享一篇关于一元多项式加法运算，小编觉得内容挺不错的，现在分享给大家，具有很好的参考价值，需要的朋友一起跟随小编来看看吧...2020-04-25
- 这篇文章主要介绍了smarty模板数学运算用法,结合实例形式分析了Smarty模板实现基本数学运算的操作技巧,需要的朋友可以参考下...2017-01-08
- 这篇文章主要介绍了位运算实现十进制转换为二进制的相关资料,需要的朋友可以参考下...2020-04-25
- 本文主要讲解定点运算问题，需要的朋友可以参考一下。...2020-04-25
- C语言中有符号数和无符号数进行运算默认会将有符号数看成无符号数进行运算，其中算术运算默认返回无符号数，逻辑运算当然是返回0或1了。下面通过一个例子给大家分享C语言中无符号数和有符号数之间的运算，一起看看吧...2020-04-25
- 这篇文章主要介绍了opencv 形态学变换(开运算，闭运算，梯度运算)，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧...2020-07-08
- 这篇文章主要介绍了pandas DataFrame运算的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧...2020-06-14
- 这篇文章主要介绍了PHP数学运算与数据处理方法,结合实例形式分析了PHP的数据类型与基本数学运算方法,需要的朋友可以参考下...2016-04-07
- 这篇文章主要介绍了Python如何执行精确的浮点数运算，文中讲解非常细致，代码帮助大家更好的理解和学习，感兴趣的朋友可以了解下...2020-08-01
- 这篇文章主要介绍了PHP入门教程之数学运算技巧,结合实例形式总结分析了php数值运算、变量检测、随机数、绝对值、取整、最大值、最小值、四舍五入等操作技巧,需要的朋友可以参考下...2016-09-18
SQL Server中的集合运算: UNION, EXCEPT和INTERSECT示例代码详解
这篇文章主要介绍了SQL Server中的集合运算: UNION, EXCEPT和INTERSECT,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下...2020-12-08- php教程 比较运算符 比较运算就是两个值进行比较，体现两个数之间的关系。 例子 名称 结果 $a == $b 等于 TRU...2016-11-25