20241230 基础数学-线性代数-(1)求解特征值(numpy, scipy)

server/2024/12/28 18:04:44/

所有代码实现,基于教程中的理论通过python实现出来的。效率不高,但有代码可以看。

由于scipy/sckitlearn/sparkx 底层的实现都被封装了(小白兔水平有限,fortran代码实在没看懂)这里的实现至少可以和理论公式对应的上。

1. 求特征值和特征向量

这是后面解线性方程的基础。解方程及拆分过程依赖eigVal,eigVec,很重要。

基本的解析法很好理解,所有的教程都有介绍。但是工程实现numpy等都是用的其他数值求解方法,这里实验了QR方法(水平有限,是最基础的QR),证明QR方法不难实现,并且有更多方法优化可以提高QR的数值稳定性和收敛效率(水平有限,placeholder,given旋转等,未研究)。

解析解析数值
eigpolynomial*symmetric matrix
lanrange multiples 
*symmetric matrix
QR Iteration
算法det(A-lambda*E)=0

解lambda的n次方程, 对应每个eigval[*]解齐次方程。
基于对称矩阵转标准二次型原理,A= (PN...P1) D (P1.T ... PN.T)

eigVec=(PN...P1)
eigVal=D
1. 将A=QR,Q为规范正交矩阵,R为A在这个矩阵上的投影系数。
2. AK=RQ, 迭代k次,
Q.T A= R,
A1= Q.T A Q; 
...
Q1.T A1= R1;
A2= Q1.T A1 Q1 = Q1.T Q.T A Q Q1
...
AK = (QK.T ... Q.T) A (Q ... QK )
//AK 就是特征值对角矩阵, Q...QK 就是特征向量
//AK为什么会收敛为对角矩阵,待研究//TODO

eigVec=(PN...P1)
eigVal=D
PYTHONE00_eigVal_by_polynomial.pyP00_lagrange_mul_resolver00.pyE01_eigVal_by_qr_mm.py

//*没有完全解决数值稳定性问题,devide0 等等;[URL]有大神写了QR算法文章,有更优的算法。

参考代码

​​​​​​参考代码: AITutorial02: AI初学,AI幼儿园练习



 

写在最后

* 线性代数理论及证明过程请参考教材。公式推理可以参考AI。感谢数学大师们。感谢《学兔兔》网。


http://www.ppmy.cn/server/152970.html

相关文章

cursor保存更改操作技巧

1. 当我们在agent模式时,要求cursor更改代码时,cursor回答后,就已经更改了代码了,这时候就可以对程序进行编译和测试, 不一定先要点” accept“, 先测试如果没有问题再点“accept”,这样composer就会多一条…

EMQX构建简易的云服务

基本思路: 使用EMQX作为Mqtt brokermqtt-receive-server服务,用于接收设备上报的数据mqtt-sender-service服务,用于下发数据给设备KafKa实现数据解耦,mqtt-receive-server服务接收的数据简单处理下直接扔到Kafka中云服务各业务系…

【Apache Doris】周FAQ集锦:第 26 期

SQL问题 Q1 doris 3.0存算分离模式下,建表的时是否需要指定表的副本数 不需要,指定了也会忽略;存算分离模式下,数据副本由远端存储去管控。 Q2 doris 通过dbeaver查询时报错:[SXXXX]… doris的错误码通常都是EXXXX&…

Nacos的下载和启动(如何快速稳定下载在github中)

目录 Nacos的下载 下载加速器 在githup中找到Nacos 启动Nacos 访问Nacos Nacos的下载 下载加速器 首先,我们需要进入githup中,我们直接访问,肯定是访问不到的。 这里我们经常玩游戏的同学肯定知道steam,这个加速器。直接进入…

Ubuntu下通过Docker部署Caddy服务器

Docker和Caddy简介 Docker是一个强大的容器化平台,而Caddy是一个现代化的Web服务器,支持自动HTTPS和简单配置。这两款软件在现代IT领域扮演着重要的角色。 步骤一:安装Docker 首先,安装Docker。执行以下命令: sudo…

物联网水文观测设备

物联网水文观测设备的功能涵盖了水文监测的多个方面,以下是其主要功能: 实时数据收集: 物联网水文观测设备能够实时收集水位、流量、水质等参数,实现对水环境的持续监测。这种连续的数据收集方法有助于及时发现和预警水资源问题&a…

LLM客户端开源工具cherry studio

Cherry Studio AI 是一款强大的多模型AI 助手,支持iOS、macOS 和Windows 平台。快速切换多个先进的LLM 模型,提升工作学习效率。通过自定义LLM的接口,可以方便使用最新的大预言模型,包括多模态模型。比如google的最新的 gemini的G…

day14-补充静态网卡配置

修改网络模式,修改静态ip,动态ip获取方式 查看当前的上网信息 1.确保你的机器,是连接的网络的,是插上了网线的。(模拟了物理服务器的软件是什么?看你的虚拟的机器(vmware)&#xf…