4.回归与聚类算法 4.1线性回归

ops/2025/2/7 5:46:32/

4.1.1 线性回归的原理

1 线性回归应用场景:

房价预测

销售额度预测

金融:贷款额度预测,利用线性回归以及系数分析因子

2 什么是线性回归

1) 定义:利用回归方程(函数)对一个或者多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。

2)特点:只有一个自变量的情况称为单变量回归,多于一个自变量情况叫做多元回归

线性关系不等同于线性模型。

线性模型有两种:自变量一次,参数一次

而线性关系就是自变量与参数都是一次的。

4.1.2 线性回归的损失和优化原理

目标:求模型参数

           模型参数能够使得预测准确

损失函数/cost/成本函数/目标函数/最小二乘法:含义相同,只是名字不同

1 损失函数

2 优化算法

1)正规方程

如何去求模型当中的w,使得损失最小?(目的是找到最小损失对应的w的值)

线性回归经常使用的两种优化算法有:正规方程(天才,直接求解w),梯度下降(普通人,试错,改进)

拓展:y=ax^2+bx+c

           y'=2ax+b=0

           x=-b/2a 

2)梯度下降

所以有了“梯度下降”这一优化算法回归就有了“自动学习”的能力。

4.1.3 线性回归API

4.1.4 波士顿房价预测

流程:

1)获取数据集

2)划分数据集

3)特征工程:无量纲化-标准化

4)预估器流程:fit--> 模型

                          coef_ intercept

5) 模型评估

回归性能评估:

对比:




http://www.ppmy.cn/ops/156356.html

相关文章

Linux 环境安装 Elasticsearch 8

参照 elastic 官方安装指南:https://www.elastic.co/guide/en/elasticsearch/reference/current/install-elasticsearch.html 安装步骤参照 https://www.elastic.co/guide/en/elasticsearch/reference/current/deb.html 按下面步骤依次执行命令: wget -…

C基础寒假练习(2)

一、输出3-100以内的完美数&#xff0c;(完美数&#xff1a;因子和(因子不包含自身)数本身 #include <stdio.h>// 函数声明 int isPerfectNumber(int num);int main() {printf("3-100以内的完美数有:\n");for (int i 3; i < 100; i){if (isPerfectNumber…

工厂方法模式(Java)

工厂方法模式&#xff08;Java&#xff09; 工厂方法模式概述 1. 工厂方法模式的定义 工厂方法模式提供了一种创建对象的方式&#xff0c;而无需指定具体的类。它通过定义一个接口来创建对象&#xff0c;具体的实例化过程由子类实现。这种方式使得代码更加灵活&#xff0c;易…

机器学习8-卷积和卷积核1

机器学习8-卷积和卷积核1 卷积与图像去噪卷积的定义与性质定义性质卷积的原理卷积步骤卷积的示例与应用卷积的优缺点优点缺点 总结 高斯卷积核卷积核尺寸的设置依据任务类型考虑数据特性实验与调优 高斯函数标准差的设置依据平滑需求结合卷积核尺寸实际应用场景 总结 图像噪声与…

蓝桥杯python基础算法(2-2)——基础算法(D)——进制转换*

目录 五、进制转换 十进制转任意进制&#xff0c;任意进制转十进制 例题 P1230 进制转换 作业 P2095 进制转化 作业 P2489 进制 五、进制转换 十进制转任意进制&#xff0c;任意进制转十进制 int_to_char "0123456789ABCDEF" def Ten_to_K(k, x):answer "…

神经网络|(七)概率论基础知识-贝叶斯公式

【1】引言 前序我们已经了解了一些基础知识。 古典概型&#xff1a;有限个元素参与抽样&#xff0c;每个元素被抽样的概率相等。 条件概率&#xff1a;在某条件已经达成的前提下&#xff0c;新事件发生的概率。实际计算的时候&#xff0c;应注意区分&#xff0c;如果是计算综…

第35章 星骗计划的阴影

清晨&#xff0c;阳光透过窗帘缝隙&#xff0c;轻柔地洒落在东方艾艾的办公桌上。他揉了揉惺忪的睡眼&#xff0c;昨晚加班至深夜的疲惫仍未消散。在航天锐创所&#xff0c;刚结束一轮紧张培训&#xff0c;他便马不停蹄地投身于 “星渊计划&#xff1a;航天智擎开发项目” 的筹…

deepseek本地部署

DeepSeek本地部署详细指南 DeepSeek作为一款开源且性能强大的大语言模型&#xff0c;提供了灵活的本地部署方案&#xff0c;让用户能够在本地环境中高效运行模型&#xff0c;同时保护数据隐私&#xff0c;这里记录自己DeepSeek本地部署流程。 主机环境 cpu:amd 7500Fgpu:406…