您是不是在找：

骏扬工作室3年前
找到一段之前录制的介绍浮点如何存储的视频，最近正在讲这个。其中阶的偏移还没有说清楚，后面再补充。
00:00 / 07:07
连播
清屏
智能
倍速
点赞832
编程一点通10月前
#今日分享 @DOU+小助手 你有没有遇到过这种离谱的情况？ 明明 0.1 + 0.2 应该等于 0.3，结果打印出来居然是： 0.30000000000000004？！ 是不是一瞬间怀疑人生：“我数学没学错啊，这电脑是不是有毛病？” 其实不是你出问题，也不是电脑出bug，而是——浮点数本来就不靠谱。 为什么会这样？我给你打个比方👇 浮点数在电脑里就像“用硬币凑零钱”。 比如你要凑 0.1 元，但你手里没有1角的硬币，只有一堆奇怪的面值（比如 0.03、0.07），你拼命凑，也凑不到刚好 0.1。 电脑处理小数时，其实就是用二进制“硬币”来拼凑我们常见的小数，但很多小数（二进制下）根本没法精确表示，只能无限接近，所以就出现了“误差”。 实用小技巧来啦！ ✅ 如果你在写代码，比如 Java 或 Python，判断两个浮点数是否相等，千万别用 ==。 ✔️ 正确姿势是： 用“误差范围”来判断，比如 Math.abs(a - b) < 0.00001 这就像是我们说两个人身高差不多，不用精确到0.000001厘米那么夸张~ 总结一下： 浮点数 ≠ 精确数，拿来做科学计算、工程模拟没问题，但涉及金额、精准对比、判等时要格外小心！ 看完这篇，你是不是也觉得编程像生活，一不小心就“精度失控”🤣 你还遇到过哪些看起来“匪夷所思”的编程现象？欢迎评论区一起吐槽交流！ #java开发 #后端开发 #程序员日常 #编程知识
00:00 / 01:40
连播
清屏
智能
倍速
点赞11
林妹妹讲Excel1年前
124-精度误差1.125-1.1=0.024999...咋回事#浮点数精度
00:00 / 01:35
连播
清屏
智能
倍速
点赞11
阿伟码控1年前
PLC中使用浮点数会有哪些问题及其原因 浮点数标准是怎么定义的，有哪些缺陷和陷阱，原因是什么，应该如何正确使用？ #plc #plc学习 #自动化 #西门子plc #工控 #数据类型
00:00 / 08:52
连播
清屏
智能
倍速
点赞1943
全栈程序员歌谣3周前
前端每日一题:js在什么情况下会出现精度丢失的情况 怎么解决 前端每日一题:js在什么情况下会出现精度丢失的情况 怎么解决
00:00 / 02:13
连播
清屏
智能
倍速
点赞30
老头们的快乐生活1周前
我敲的代码，我查的Bug，看着产品经理把0.01%吹成“商业模式”，结果老子连帮自己亲妈改个数据的权限都没有！！三年了，唯一真实的竟然是个浮点数Bug。懂了，在大厂没有Bug，只有未被发现的Feature。最后卸载又装回来那一下，我承认，我是个没有感情的底层代码苦力……🤦‍♂️ #程序员破防录 #产品经理你出来 #写代码的悲哀 #砍一刀 #人间真实
00:00 / 01:48
连播
清屏
智能
倍速
点赞NaN
前端程序员1年前
JS浮点数精度丢失问题#前端 #前端面试 #前端开发工程师 #计算机 #编程
00:00 / 02:58
连播
清屏
智能
倍速
点赞53
每天一道Java面试题9月前
3*0.1== 0.3返回值是什么？ #java面试 #程序员 #编程 #知识分享 #java程序员
00:00 / 00:57
连播
清屏
智能
倍速
点赞71
程序员说1年前
#c语言 使用boost库来处理100位精度甚至无限位精度的浮点数。用boosst库来解决浮点数运算精度导致的误差问题。浮点数数学运算的误差问题，IEEE 745浮点数在计算机中的表示原理。浮点数floating point在计算中是如何存储的，浮点数原理，浮点数在内存中如何存储，浮点数存储原理，浮点数指数和尾数详解，浮点数阶码和尾数详解，浮点数的二进制详解，十进制浮点数如何转换成二进制浮点数，浮点数表示法。卡汉Kahan求和算法原理讲解及运用。Boost库使用，boost库浮点数处理, boost库定点数处理。#c++基础入门教程 #c语言入门教程 #c语言程序设计 #浮点数
00:00 / 02:04
连播
清屏
智能
倍速
点赞236
程序员说1年前
#c语言 详解浮点数加法运算存在的问题以及解决办法。用Kahan求和算法解决浮点数的加法运算中的误差问题。浮点数数学运算的误差问题，IEEE 745浮点数在计算机中的表示原理。浮点数floating point在计算中是如何存储的，浮点数原理，浮点数在内存中如何存储，浮点数存储原理，浮点数指数和尾数详解，浮点数阶码和尾数详解，浮点数的二进制详解，十进制浮点数如何转换成二进制浮点数，浮点数表示法。卡汉Kahan求和算法原理讲解及运用。#c++基础入门教程 #浮点数 #c语言入门教程 #c语言程序设计
00:00 / 02:07
连播
清屏
智能
倍速
点赞440
MuscleCoding3年前
千万别在python里面直接计算浮点数，精度有个大坑的#python #python编程 #计算机 #编程 #程序员 #代码 #干货 #干货分享 #学习 #别用嘴学
00:00 / 00:57
连播
清屏
智能
倍速
点赞186
程序员加劲2月前
浮点数精度丢失，附解决方案#程序员#干货分享#编程
00:00 / 00:38
连播
清屏
智能
倍速
点赞112
林妹妹讲Excel1年前
6-发工资总是差一分怎么办#浮点数误差#精度误差#差一分
00:00 / 01:32
连播
清屏
智能
倍速
点赞7
前端程序员2年前
JS浮点数精度丢失问题 #前端 #前端面试 #javascript #前端开发 #程序员
00:00 / 03:11
连播
清屏
智能
倍速
点赞63
计算机科普4年前
C语言浮点数精度问题@DOU+小助手 #学习 #c语言 #计算机
00:00 / 05:12
连播
清屏
智能
倍速
点赞89
老宋头码农AI小课堂1周前
大家好！AI“修仙”“炼丹”之路漫漫，愿与大家同行！入门课！数学基础较差的老铁可以看看，权当抛砖引玉！
00:00 / 07:48
连播
清屏
智能
倍速
点赞0
RT时代4年前
精度问题引发的严重后果
00:00 / 27:48
连播
清屏
智能
倍速
点赞6
Eleven上位机资料分享3年前
浮点数的精度问题，快来跟我一起学习吧#程序员 #编程 #干货分享
00:00 / 03:49
连播
清屏
智能
倍速
点赞4
或非电子电路学堂11月前
C语言赋值之后类型转换的精度损失问题，举例分析 精度损失问题？ 1、从取值范围小的类型向取值范围大的类型赋值时，一定都是安全的吗？ 2、从高精度向低精度转换时，会损失什么信息？ 3、浮点数是实数的精确表示吗？为什么2个浮点数不能直接比较两个浮点数是否相等？ 4、浮点数变量能取代整型变量吗？ 带着这些问题，一起来学习吧！ #c语言程序设计 #c语言入门教程
00:00 / 04:49
连播
清屏
智能
倍速
点赞28
刘金玉4年前
零基础Java教程14期 浮点数据类型以及误差解决方案，编程入门
00:00 / 31:45
连播
清屏
智能
倍速
点赞36
松小冬4年前
小数也就是浮点数计算精度丢失问题的原因
00:00 / 03:52
连播
清屏
智能
倍速
点赞16
yinchengit4年前
golang2021基础5：8浮点类型精确度问题
00:00 / 07:07
连播
清屏
智能
倍速
点赞1
码农工程师1年前
29. Java中，浮点运算精度问题 【Java】【萌新入坑、从零开荒系列】 Java技术交流群：15213479 #JAVA #编程语言 #java技术分享 #Java技术
00:00 / 03:20
连播
清屏
智能
倍速
点赞1
PY518QX3年前
浮点数的比较一直都是一个很头痛的问题，还好实际工作中要求精度不高。
00:00 / 00:59
连播
清屏
智能
倍速
点赞6
木鸟自动化（PLC源头厂家）1年前
众多PLC学习者中，学到数据类型总会遇到坎。如果在这个问题上一知半解，就会直接导致思维停留在基本逻辑编程上，延伸到后续的模拟量运算、通信数据交换等知识时，就很难真正弄懂。原本模拟量和通信并不难，但却又很多人学不会，根本原因就在于前面的基本数据类型不通。#plc #自动化 #数据类型 #工控 #plc编程
00:00 / 00:44
连播
清屏
智能
倍速
点赞184
freexyn3年前
1.23 Matlab浮点型的创建和转换方法、取值范围、运算和精度问题 #Matlab #浮点型 #编程入门
00:00 / 17:44
连播
清屏
智能
倍速
点赞4
键盘教父5天前
浮点型的类型有哪几种？单精度和双精度的本质区别在哪里？一条视频搞懂浮点数在内存中的底层存储形式 #编程 #代码 #计算机 #程序员 #C++
00:00 / 56:51
连播
清屏
智能
倍速
点赞16
优服工业（机床维保）11月前
修机床最费时间的就是这种问题：排查每一根线束的 #数控维修 #机床维修 #优服工业
00:00 / 00:49
连播
清屏
智能
倍速
点赞338
创想致学小美老师讲嵌入式AI1年前
正确率不足20%，来试试看你能不能写对吧 #C语言 #计算机 #编程 #程序员 #面试
00:00 / 03:28
连播
清屏
智能
倍速
点赞585
Murphy4code1年前
C语言浮点类型比较：浮点类型存储存在精度，不能直接判断相等 #C语言 #嵌入式开发 #程序员
00:00 / 00:59
连播
清屏
智能
倍速
点赞234
丽驰教育-PLC培训2年前
转换指令讲解#电工#技术分享 #程序编程
00:00 / 00:55
连播
清屏
智能
倍速
点赞66
岑永洪5年前
#信息学奥赛 1027-输出浮点数
00:00 / 02:37
连播
清屏
智能
倍速
点赞31
全国测绘仪器CORS账号1年前
RTK单点解排查#北斗#GPS#RTK单点#CORS
00:00 / 03:08
连播
清屏
智能
倍速
点赞2
大庆💪3年前
1.1章第五题输出保留12位小数的浮点数#编程 #如何学习编程 #少儿编程 #教育 #学习
00:00 / 05:13
连播
清屏
智能
倍速
点赞11
天津企乐科技变频器维修5月前
编码器维修实战教程 #天津编码器维修公司 #天津编码器维修#编码器维修公司#编码器维修#编码器维修推荐
00:00 / 00:20
连播
清屏
智能
倍速
点赞4
佳途学院工控知识6年前
单精度双精度浮点有什么区别？#电工 #plc #工控 #机器人 #自动化 #佳途学院 @工控罗工 @抖音小助手
00:00 / 00:07
连播
清屏
智能
倍速
点赞358
少烦6月前
Problem 231 上期答案D. 0.060000000000000005 解析：先计算0.2*0.3=0.06（有精度误差），再加0.1，浮点数精度问题导致结果不精确。 #java #关注我每天坚持分享知识 #一起学习 #每日一题 #一起学习
00:00 / 00:31
连播
清屏
智能
倍速
点赞35
菁瑞优智4年前
浮点数的精度问题-web前端入门教程#编程入门 #程序代码 #电脑知识 #在线学习 #程序员 #计算机 #网课
00:00 / 05:06
连播
清屏
智能
倍速
点赞2
Mao的一台计算器(尝试破1024)3月前
微软绘图计算器也有距离现象:( 告诉你，电梯小剧场已经准备好重新更新了！
00:00 / 01:58
连播
清屏
智能
倍速
点赞20
少烦7月前
Problem 221 上期答案 B. false 解析：浮点数精度问题，1.0-0.9≈0.09999999999999998，不等于0.1。 #java #关注我每天坚持分享知识 #每日一题 #一起学习 #编程学习
00:00 / 00:33
连播
清屏
智能
倍速
点赞40
少烦5月前
Problem 272 上期答案：B. false 解析：浮点数精度问题，0.1+0.2+0.3 ≈ 0.6000000000000001，不等于0.6。 #java #关注我每天坚持分享知识 #一起学习 #每日一题 #编程学习
00:00 / 00:34
连播
清屏
智能
倍速
点赞15
少烦1年前
Problem 28 上期答案 B ) false 解释：由于浮点数精度问题，0.1 + 0.2 不会精确等于 0.3。实际值是一个接近 0.3 的浮点数。 #每日一题 #java #编程学习 #关注我每天坚持分享知识 #一起学习
00:00 / 00:31
连播
清屏
智能
倍速
点赞4
unlinearity4月前
Deepseek-OCR 本地4GB显存部署教程（总集） Deepseek-OCR 本地4GB或8GB显存部署教程：降低浮点精度后，可以在 4GB/8GB显存下 跑Tiny Small Gundam Base模式，同时教你如何看错误信息修改源代码，实现本地自主可控、可用。#编程 #deepseek #教程 #人工智能 #4060
00:00 / 21:44
连播
清屏
智能
倍速
点赞110
程果编程2年前
CSP复赛易犯错误4-浮点数的精度丢失 #信奥赛 #c语言 #少儿编程 #干货分享
00:00 / 01:00
连播
清屏
智能
倍速
点赞14
汽化人3周前
据说看懂的人已经哭了😢😢😢#男生扣分行为 #信息学奥赛
00:00 / 00:29
连播
清屏
智能
倍速
点赞71
小飞有点东西1年前
最大安全整数 #js #javascript #程序员 #前端
00:00 / 03:30
连播
清屏
智能
倍速
点赞79
电脑常识科普2年前
美国制裁英伟达RTX4090显卡禁售我国，最新后续来了！#英伟达 #实话实说 #4090显卡 #电脑显卡 #电脑知识
00:00 / 03:24
连播
清屏
智能
倍速
点赞12
思远Syrion3月前
为何0.1+0.2≠0.3？ 这不是数学出错，而是计算机在跟你玩“精度捉迷藏”。 这就是著名的 浮点数悖论： 数字很乖，但计算机并不总是。 本期视频，用最简单的方式带你看懂： 为何计算机连小学生都会的题都算“错”，以及我们该如何与这位数字世界的怪才和平共处。 #浮点数 #误差 #计算机科学与技术 #二进制
00:00 / 01:40
连播
清屏
智能
倍速
点赞37
鹅酥之士💡6天前
基岩版距离现象 内容来源于Minecraft Wiki 这是重发的，原视频24年，有很多人模仿但我是第一个发的
00:00 / 03:27
连播
清屏
智能
倍速
点赞935
桂林山水职业学院1周前
【山水职教高考复习学堂】C语言课程6 浮点数和类型转换
00:00 / 06:13
连播
清屏
智能
倍速
点赞5
爱玩我的世界2月前
32位浮点数的错误#我的世界#Minecraft.
00:00 / 03:40
连播
清屏
智能
倍速
点赞9
芯片yi姐6月前
大模型训练依赖的高精度浮点运算是什么？ #浮点运算 #大模型训练 #FP64 #DSP芯片 #光伏逆变器
00:00 / 05:09
连播
清屏
智能
倍速
点赞279
面试鸭6月前
为什么计算机存不准 0.1？ #java面试 #程序员 #编程语言 #java八股文 #后端
00:00 / 01:08
连播
清屏
智能
倍速
点赞620
河马3月前
#每日学习打卡 #学习打卡vlog #编程 #信奥
00:00 / 01:41
连播
清屏
智能
倍速
点赞12
山农助苗2周前
2023年408真题14题 #大学 #计算机 #408真题 #考研
00:00 / 04:44
连播
清屏
智能
倍速
点赞4
大宇爱哔哔4月前
大国工匠方文墨大哥 最近才知道大国工匠方文墨大哥，还是我纯老乡，知道的还是太晚了，惭愧#方文墨 #叶辉 #大国工匠 #沈飞 #5纳米
00:00 / 02:05
连播
清屏
智能
倍速
点赞2959
家全聊AI6月前
腾讯混元团队发现：浮点数精度影响AI模型训练效果#人工智能 #大模型
00:00 / 00:35
连播
清屏
智能
倍速
点赞5
小赖同学(Excel你问我答)2年前
拆分数字 分箱取余 123写成4*25+23 Excel浮点错误处理 #Excel #职场 #你问我答 #办公 #教程
00:00 / 07:02
连播
清屏
智能
倍速
点赞0
Poole蒲乐1年前
浮点数#c语言 #程序代码 #c语言 #计算机 #编程语言
00:00 / 01:05
连播
清屏
智能
倍速
点赞8
芦同学5月前
第十一章，Python math 简单应用~ math模块是Python进行科学计算的基石。基础功能涵盖三角函数、对数运算及π/e常数，为工程计算提供核心支持。高阶运算如阶乘、取整和浮点精度处理，能有效解决复杂数学问题。 视频中给出两个案例，计算圆的面积与球的体积和模拟金融复利~ #python #math #编程 #计算机#这也能开播
00:00 / 01:30
连播
清屏
智能
倍速
点赞526
MOLI2天前
和蔼的容嬷嬷老师又来了，这次教学的内容是Python 浮点数的比较。 主页有很多有意思的教学视频，还有更多视频在制作中了。#python编程[话题]# #Python[话题]# #python[话题]# #编程[话题]# #python学习[话题]#
00:00 / 00:47
连播
清屏
智能
倍速
点赞28

简介:

您在查找“浮点精度错误”短视频信息吗？帮您找到更多更精彩的短视频内容！最新发布时间：2026-03-13 06:44

最新推荐:

相关推荐:

热门推荐: