• 投稿

为什么计算机算不对数学题 - PawelCodeStuff

3万
79
2026-06-23 02:14:55
704
45
404
23
原视频:Why computers can't do math? 原作者:PawelCodeStuff 发布日期:2026-05-23 视频链接:https://www.youtube.com/watch?v=UOqpfGdd27M ✨ 想看英文原声?请关注 @英文白斑马 00:00 0.1+0.2计算异常现象引入 引导复现0.1+0.2不等于0.3的异常现象,说明多数开发者误以为该问题是JavaScript特有的bug。 00:17 异常并非编程语言bug 说明该计算异常在C、Java等多语言中普遍存在,本质是现代计算硬件表示小数的底层机制问题,而非语言缺陷。 00:29 本期内容预告 预告将讲解0.1+0.2计算的底层逻辑、计算机无法精确存储0.1的原因,以及工程场景下的精度问题应对方案。 00:40 十进制计数的原理与局限 讲解十进制计数规则,说明只有分母质因数仅包含2和5的分数才能被十进制精确表示,否则会出现无限循环。 02:06 二进制计数的原理与局限 说明计算机采用二进制计数,仅分母为2的幂的分数可被精确表示,0.1和0.2的分母含质因数5,因此二进制表示为无限循环序列。 03:31 IEEE 754双精度浮点数标准 讲解IEEE 754双精度浮点数的存储结构,说明计算机因内存有限会截断无限二进制序列并舍入引入误差,最终导致0.1+0.2计算结果异常,该行为符合硬件设计预期。 05:42 浮点精度误差的工程解决方案 介绍不同场景的误差应对方案:普通场景采用字符串格式化输出,金融等高精度场景可将小数转整数计算,或使用专门的十进制运算库。 07:08 内容总结 总结浮点数运算并非设计缺陷,而是性能、内存与精度之间的优化妥协,感谢观众观看。 07:21 观众互动与结尾 请求观众点赞支持,征集下期视频主题,与观众告别。 使用YouDub AI翻译配音制作 项目地址:https://github.com/liuzhao1225/YouDub-webui
赛博普罗米修斯|X:@liuzhao_666|GitHub:liuzhao1225
接下来播放
自动连播
客服
顶部
赛事库 课堂 2021拜年纪