关于浮点运算和定点运算

article/2025/9/9 15:07:52
  1. 什么是定点数?
    https://baike.baidu.com/item/%E5%AE%9A%E7%82%B9%E6%95%B0/11030127
  2. 什么是定点运算?
    https://baike.baidu.com/item/%E5%AE%9A%E7%82%B9%E8%BF%90%E7%AE%97/1861887?fr=aladdin
  3. 什么是浮点数?
    https://baike.baidu.com/item/%E6%B5%AE%E7%82%B9%E6%95%B0/6162520?fr=aladdin
  4. 什么是浮点运算?
    https://baike.baidu.com/item/%E6%B5%AE%E7%82%B9%E8%BF%90%E7%AE%97/100607?fr=aladdin
  5. 为什么浮点数一定有误差?
    https://blog.csdn.net/qq_25847123/article/details/77587575
  6. 为什么精确运算要避免浮点运算?
    https://blog.csdn.net/iteye_11305/article/details/82671571
  7. 浮点运算原理详解:
    https://blog.csdn.net/tercel_zhang/article/details/52537726
  8. 定点数、浮点数运算类型的说明:
    https://blog.csdn.net/syb773849846/article/details/78123079
  9. Linux内核中为什么要避免浮点运算?
    https://zhidao.baidu.com/question/240448272188831724.html
  10. 定点与浮点运算 DSP 的比较
    https://blog.csdn.net/sunice121/article/details/25324089

小结:

浮点运算的缺点: 计算复杂度高,结果存在误差,受硬件平台影响大

浮点运算的优点: 可以表示实数,数的表示范围比较大,便于大型复杂算法的实现。


20190705

浮点转定点的方法——量化

  1. 根据“最小值”和“最大值”确定输入浮点值的范围。 (注:未必是实际数据的最小值和最大值。例如存在未知数据时需要根据经验值确定取数范围,或者需要去除数据中的极端值以免不合理地降低精度。)
  2. 根据精度需求确定输出定点值的范围,例如量化到0~255(整数)范围。
  3. 将浮点输入值映射到定点输出值,公式为y_int = scale * (x_float - x_min)。
  4. 根据应用需求对映射结果做细微调整,比如对浮点数为0的精度较为敏感的,需要将浮点0映射为整数定点值,其他浮点数的映射关系则据此做调整。(此想法源自Neon矩阵乘法加速优化中对量化的调整。)

20191210
以下内容摘自《计算机组成与设计 硬件/软件接口》(【美】David A. Patterson John L. Hennessy,王党辉 康继昌 安建峰等译)

  1. 浮点加法不能使用结合律。
    因为浮点数是实数的近似表示,且计算机算术精度有限,故结合律不能适用于浮点数。假设浮点数可以表示一个很大的数的范围,当两个不同符号的大数与一个小数相加时就会发生问题,即使用结合律会导致计算结果不一致,举例如下:
  1. 并行执行策略不一定适用于浮点数据类型。
    是否采用并行执行策略可能导致程序的计算结果不一致。即使是相同的代码和输入,每次运行使用不同数目的处理器可能导致浮点求和以不同的顺序进行,从而影响浮点加法的结果。
    使用了浮点数的并行代码的运行结果可能与顺序执行的结果不一致,但仍可通过数值分析验证结果是否可信。

http://chatgpt.dhexx.cn/article/BEqZVEto.shtml

相关文章

浮点数运算和溢出

何为浮点数 在大部分实现中,浮点数通常是基于IEEE浮点标准用V(-1)的形式来表示一个数 s是符号位,决定这个数是正数还是负数.significand M是一个二进制小数,范围在[1~ 2 - ]或者[0-] 中文称为尾数.exponent E是对浮点数加权,权重…

浮点数的运算

浮点数的加减运算 从十进制科学计数法理解浮点数的加减运算: 对阶的原则是小阶对大阶(算术右移),之所以这样做是因为若大阶对小阶(算数左移),则尾数的数值部分的高位需移出,而小阶对…

浮点数的加法运算

浮点数的加法运算分以下五个步骤: 1、对阶: 这一点和十进制中计算指数一样,首先应该使指数化为相同的指数幂,例如: x3*10^4,y4*10^3,则,xy3*10^40.4*10^4(30.4)*10^4 二进制中也是如此: x.…

2.6 浮点运算方法和浮点运算器

学习目标: 以下是一些具体的学习目标: 理解浮点数的基本概念和表示方法,包括符号位、指数和尾数。学习浮点数的运算规则和舍入规则,包括加、减、乘、除、开方等。了解浮点数的常见问题和误差,例如舍入误差、溢出、下…

什么是浮点数?

微信搜索关注「水滴与银弹」公众号,第一时间获取优质技术干货。7年资深后端研发,用简单的方式把技术讲清楚。 在上一篇文章中,我们主要介绍了在计算机中使用定点数表示数字的方式。 简单回顾一下,简单来说,用定点数表…

浮点数加减运算

浮点运算要把阶码和尾数分别处理。 阶码的运算是定点整数运算,对阶码的运算四种:阶码加1,阶码减1,两阶码求和,两阶码求差。 尾数的运算是定点小数运算,运算过程中一般取双符号位 浮点运算器总是由处理阶…

浮点数运算原理详解

导读:浮点数运算是一个非常有技术含量的话题,不太容易掌握。许多程序员都不清楚使用操作符比较float/double类型的话到底出现什么问题。 许多人使用float/double进行货币计算时经常会犯错。这篇文章是这一系列中的精华,所有的软件开发人员都应…

浮点数运算——加减乘除都有哈

什么是浮点数 浮点数运算异常 IEEE 754 标准规定的五种异常情况 浮点数除0的问题 浮点数加减运算 浮点数乘除运算 导读:浮点数运算是一个非常有技术含量的话题,不太容易掌握。许多程序员都不清楚使用操作符比较float/double类型的话到底出现什么问题…

浮点数的运算步骤

浮点数的运算步骤 浮点数的加减运算一般由以下五个步骤完成:对阶、尾数运算、规格化、舍入处理、溢出判断 一、对阶 所谓对阶是指将两个进行运算的浮点数的阶码对齐的操作。对阶的目的是为使两个浮点数的尾数能够进行加减运算。因为,当进行M x2Ex与M …

浮点数运算

今天学习了浮点数运算(加减乘除)。浮点数运算主要包括两部分:指数运算和尾数运算。在IEEE754标准下,指数运算就是阶码的运算,类似于无符号数运算。尾数运算是原码运算。之前一直很疑惑为什么前面的教材在介绍原码运算&…

计算机组成原理:浮点数的加、减、乘、除运算(含实例完整运算)

目录 浮点数的加减运算 零操作数的判断 对阶操作 尾数的加减操作 尾数的规格化 结果的舍入处理 结果的溢出判断 加减实例运算过程 浮点数的乘除法 零操作数的检查 阶码的加减操作 尾数的乘除操作 结果的规格化、舍入处理及溢出的判断 具体的操作如下图 乘除实例运算…

浮点数的运算方法

浮点数的运算方法 一、浮点数的表示1.浮点数的表示2.IEEE 754标准3.浮点数类型 二、浮点数的加减法1.定义2.运算步骤 三、运算部件四、强化练习 一、浮点数的表示 1.浮点数的表示 Ms表示尾数的符号位,E中1bit保存阶码的符号位其余空间存放阶码值,M中存放…

typeScript 接口(interface)及其与类型别名(type)的区别

背景 最近自己在学习一些视频剪辑相关的工具,像爱剪辑,剪映这些软件。然后就想自己是不是也可以实现一个类似的,轻量级的在线剪辑工具。最后发现这个款node端的工具库FFCreator,接下来简单介绍一下如何来搭建开发环境&#xff0c…

Type Description : This type is a general type that can be used to declare

错误描述: Complex type: param-valueType Description : This type is a general type that can be used to declare parameter/value lists. 解决方法: 把0移到init-param下面

Type and Value

Type and Value 前言一、reflect.Type1.1 数据结构1.2 方法1.2.1 所有类型通用方法1.2.2 不同基础类型的专有方法 二、reflect.Value总结参考资料 前言 reflect.Type和reflect.Value是go 反射的两大基本类型,一个管变量的类型方面,一个管变量的值方面。…

typescript interface 与 type 声明类型的区别

在 typescript 中, 我们定义类型有两种方式: 接口(interface) 和类型别名(type alias) 在官方文档中我们可以看到: Unlike an interface declaration, which always introduces a named object type, a type alias declaration can introduce a name for any kind…

type是什么

作者:newis 链接:https://www.zhihu.com/question/376890141/answer/1302417252 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 程语言的Type的话,有在不同的场景下有不同的意义…

Type-C

一、Type-C 从USB TYPE-C 的Spec上截一个USB TYPE-C母座的pin脚图: 可以看出,母座上有24根信号, 其中电源和地占据了8根,用于提升电流传输能力,剩下16个: (1)传输USB3数据的RXx和…

Java Type

Type 是Java 编程语言中所有类型的公共高级接口(官方解释),也就是Java 中所有类型的”爹“。其中”所有类型“的描述尤为指的关注。它并不是我们平常工作中经常使用的int、String、List、Map等数据类型,而是从Java语言角度磊说&am…

常见USB接口总结:Type-A、Mini-USB、Micro-USB、Type-C等等

写在前面 最近在整理之前的笔记,打算把一些有价值的笔记发到CSDN分享一下。这篇总结参考的链接如下,结合了自己找的一些图片,非原创,侵权的话私聊我删除。 参考文章链接 https://mb.zol.com.cn/514/5147157.html 总览 标准Type-…