4.回归与聚类算法 4.1线性回归

devtools/2025/2/6 14:37:37/

4.1.1 线性回归的原理

1 线性回归应用场景:

房价预测

销售额度预测

金融:贷款额度预测,利用线性回归以及系数分析因子

2 什么是线性回归

1) 定义:利用回归方程(函数)对一个或者多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。

2)特点:只有一个自变量的情况称为单变量回归,多于一个自变量情况叫做多元回归

线性关系不等同于线性模型。

线性模型有两种:自变量一次,参数一次

而线性关系就是自变量与参数都是一次的。

4.1.2 线性回归的损失和优化原理

目标:求模型参数

           模型参数能够使得预测准确

损失函数/cost/成本函数/目标函数/最小二乘法:含义相同,只是名字不同

1 损失函数

2 优化算法

1)正规方程

如何去求模型当中的w,使得损失最小?(目的是找到最小损失对应的w的值)

线性回归经常使用的两种优化算法有:正规方程(天才,直接求解w),梯度下降(普通人,试错,改进)

拓展:y=ax^2+bx+c

           y'=2ax+b=0

           x=-b/2a 

2)梯度下降

所以有了“梯度下降”这一优化算法回归就有了“自动学习”的能力。

4.1.3 线性回归API

4.1.4 波士顿房价预测

流程:

1)获取数据集

2)划分数据集

3)特征工程:无量纲化-标准化

4)预估器流程:fit--> 模型

                          coef_ intercept

5) 模型评估

回归性能评估:

对比:




http://www.ppmy.cn/devtools/156549.html

相关文章

大话特征工程:3.特征扩展

公元 2147 年,人类文明站在科技的巅峰,所有决策、发展甚至感知都被“全维计算网络”所掌控。这套系统以高维空间中的数据为基础,试图预测并塑造未来。然而,这场辉煌的技术革命却在悄无声息之间酿成了人类最大的危机——维数灾难。…

Unity游戏(Assault空对地打击)开发(7) 飞机坠毁后的操作

前言 本文之后基本操作不再演示。 详细操作 导入Free Fire VFX插件,生成火的效果。 在该文件夹下挑一个你喜欢的火,拖至Camera下,重命名为Fire。 调整一下火的位置,让摄像机清晰看到火,如下图,火在摄像机的…

基于springboot+vue的青少年心理健康教育网站的设计与实现

开发语言:Java框架:springbootJDK版本:JDK1.8服务器:tomcat7数据库:mysql 5.7(一定要5.7版本)数据库工具:Navicat11开发软件:eclipse/myeclipse/ideaMaven包:…

Brave132 编译指南 Windows 篇:部署 Node.js(五)

1. 引言 在 Brave 浏览器 132 版本的编译过程中,Node.js 扮演着至关重要的角色。作为一个基于 Chrome V8 引擎构建的 JavaScript 运行时环境,Node.js 赋予了开发者在服务器端执行 JavaScript 代码的能力。其非阻塞、事件驱动的架构使其特别擅长构建高性…

openai agent第二弹:deepresearch原理介绍

文章目录 技术原理类似开源项目OpenDeepResearcheropen-deep-researchollama-deep-researchersmolagents的open_deep_research 参考资料 2月2日openai上线了第二个agent: deep research,具体功能类似24年11月google gemini发布的deep research。 技术原理 deep res…

EF Core 学习笔记(数据迁移、一对多)

程序集依赖&#xff1a;Nuget:Microsoft.EntityFrameworkCoreTools 【定义配置文件】 定义上下文配置文件&#xff0c;继承DbContext类 public class InfoManageProDbContext : DbContext{/// <summary>/// 业务系统/// </summary>public DbSet<BusinessSyste…

react18新增了哪些特性

React 18 引入了一系列新特性和改进,主要旨在提升性能和用户体验。以下是一些主要的新特性: 并发特性 并发渲染: React 18 引入了并发模式,使得 React 可以在后台准备多个状态更新,从而提高应用的响应性。 startTransition: 允许开发者标记某些状态更新为“过渡”,以便 Re…

Python 操作列表(元组)

在本章中&#xff0c;你将学习如何遍历 整个列表&#xff0c;这只需要几行代码&#xff0c;无论列表有多长。循环让你能 够对列表的每个元素都采取一个或一系列相同的措施&#xff0c;从而高效地处理任何长度的列表&#xff0c;包括包含数千乃至数百万个元素的列表。 元组 列表…