计算机的错误计算(一百五十)

server/2024/11/13 5:25:27/

摘要  探讨 MATLAB\textup{<a class=cospi}(x)=\cos(\pi\times x)" class="mathcode" src="https://latex.csdn.net/eq?%5Ctextup%7Bcospi%7D%28x%29%3D%5Ccos%28%5Cpi%5Ctimes%20x%29" /> 的计算精度问题。当 x 为含有小数的大数或 k+0.5 (k\in \mathbb{Z})附近数时,输出会有错误数字。

例1.  已知 

x_1=123456.789\,, \\x_2=0.987555555555445\,\textup{e}10\,, \\x_3=0.500004\,, \\x_4=56789.4999999992\,.

计算 \textup{<a class=cospi}(x_1)\,," class="mathcode" src="https://latex.csdn.net/eq?%5Ctextup%7Bcospi%7D%28x_1%29%5C%2C%2C" />  \textup{<a class=cospi}(x_2)\,," class="mathcode" src="https://latex.csdn.net/eq?%5Ctextup%7Bcospi%7D%28x_2%29%5C%2C%2C" />  \textup{<a class=cospi}(x_3)\,," class="mathcode" src="https://latex.csdn.net/eq?%5Ctextup%7Bcospi%7D%28x_3%29%5C%2C%2C" />  \textup{<a class=cospi}(x_4)\,." class="mathcode" src="https://latex.csdn.net/eq?%5Ctextup%7Bcospi%7D%28x_4%29%5C%2C." />

       直接贴图吧:

       另外,16位的正确值分别为 -0.7882256119904400e0、0.1702266977524110e0、-0.1256637061402844e-4 与 -0.2513274122871835e-8(ISRealsoft 提供)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有5位、11位、4位及13位错误数字;有效数字的错误率分别为 5/16 = 31.25% , 11/16 = 68.75% , 4/16 = 25% , 13/16 = 81.25% .

       注:可参考计算机的错误计算(五十八)、(六十五)、(一百四十一)及(一百四十三)。


http://www.ppmy.cn/server/141003.html

相关文章

Redis的缓存问题与应对策略

Redis 作为一种高效的缓存系统&#xff0c;在高并发环境下应用广泛&#xff0c;但也面临一些缓存问题&#xff0c;以下是常见问题及其应对策略。 1. 缓存穿透 问题描述 缓存穿透是指请求的数据在缓存和数据库中都不存在&#xff0c;但大量请求直接到达数据库&#xff0c;从而给…

JavaSecLab靶场搭建

下载地址 whgojp/JavaSecLab: ​ JavaSecLab是一款综合型Java漏洞平台&#xff0c;提供相关漏洞缺陷代码、修复代码、漏洞场景、审计SINK点、安全编码规范&#xff0c;覆盖多种漏洞场景&#xff0c;友好用户交互UI…… (github.com) 安装流程 git clone https://github.com/…

12.UE5朝向鼠标攻击,状态机入门

2-14 朝向鼠标、怪物死亡、状态机、纯函数_哔哩哔哩_bilibili 1.朝向鼠标攻击 之前我们设置了角色移动时&#xff0c;将自动朝向移动的方向 我们需要再攻击时&#xff0c;先将这个关闭掉 随后获取光标的朝向&#xff0c;并只将yaw设置为角色的朝向&#xff0c;然后播放动画&a…

【模型学习之路】手写+分析GAT

从GNN&#xff0c;到GCN&#xff0c;再到GAT 目录 文章目录 前言 GNN GCN GAT 公式 注意力实现 公式对比 多头注意力实现 测试&可视化 前言 读本文前&#xff0c;可以先过一遍【GNN图神经网络】入门到实战完整40讲&#xff01;同济大佬用大白话的方式从零到一讲…

C++顶层const与底层const

顶层const意味着被修饰的对象本身是一个常量。 顶层const可以用来修饰基本数据类型&#xff08;如int、float等&#xff09;和自定义类型&#xff08;如结构体、类等&#xff09;的对象。 顶层const修饰的对象的值不能被修改&#xff0c;但是该对象可以被赋予另一个值&#xf…

股民情绪识别的LSTM-NBM混合模型

大家好&#xff0c;我是带我去滑雪&#xff01; 利用之前爬取2023年10月17日至2024年7月13日的65万余条东方财富网的上证指数股吧的股民评论数据&#xff0c;基于jieba库对股民情绪进行识别&#xff0c;在进行中文分词、去除停用词、合并同义词和长短句分离后&#xff0c;对长文…

备忘录模式:保存对象状态的设计模式

1. 引言 在软件开发中&#xff0c;常常需要保存一个对象的状态&#xff0c;以便将来能够恢复到该状态。在某些情况下&#xff0c;这种需求显得尤为重要&#xff0c;例如在撤销操作、版本控制以及游戏进度保存等场景中。备忘录模式&#xff08;Memento Pattern&#xff09;正是…

Python 数据可视化详解教程

Python 数据可视化详解教程 数据可视化是数据分析中不可或缺的一部分&#xff0c;它通过图形化的方式展示数据&#xff0c;帮助我们更直观地理解和分析数据。Python 作为一种强大的编程语言&#xff0c;拥有丰富的数据可视化库&#xff0c;如 Matplotlib、Seaborn、Plotly 和 …