机器学习-4:机器学习的建模流程

server/2024/11/17 23:51:03/
机器学习的建模流程

流程为:
原始数据 --> 数据预处理 --> 特征工程 --> 建模 --> 验证。

原始数据收集

所有AI或机器学习的基础就是数据,没有数据就什么都做不了,在搭建一个系统之前首要考虑的就是有没有足够多的数据可以支撑这个AI系统。数据是最重要的,如何收集数据的策略也是最重要的,很多人说AI的策略就是数据的收集策略。很大程度上数据质量的高低决定了模型的稳定性或效果,所以收集数据这一步非常关键。

数据预处理

如果数据中包含了很多噪音,那可以通过预处理的方法降噪或剔除脏数据。如果有数据格式不一致,字段不对齐等问题,无法后续做统一处理,那也可以通过数据的预处理搞定,规范化数据以保证后续模型的准确性。
实际中,数据预处理是很繁琐的,是很多AI工程师不想触碰的工作,但实际这个工作极其重要,如果数据预处理做不好那数据质量就有问题,后面所有环节都会受到影响,导致机器学习效果差,通常会花大量精力做数据的预处理工作。

特征工程

指从数据或样本里提取出对预测结果有价值的信息,每个应用场景所涉及的特征是不一样的,整个提取有效特征的过程就叫特征工程(Feature Engineering)。
实际工作中我们会花大量精力在特征工程里,这一步非常非常重要,而且它直接影响整个系统的效果。甚至说模型的重要性未必高于特征工程的重要性,所以我们会花50%以上的时间在特征工程这个环节。
经过特征工程后的每一个数据都可以转换成向量或者矩阵或张量这种数值类型,然后这个数就可以直接作为模型的输入,进入建模阶段。

建模

建模阶段就是使用各种各样的模型去尝试,看哪个模型带来的效果是最好的,该环节主要做的事情有几点:1,做一些调参的工作,指我们不断的调整模型,使这个模型可以达到最优的效果。2,改造,当发现模型不太满足实际的需求了,可以对模型做一些改造,然后再调参。

验证

训练出来的模型到底怎么样,如果不好的话可能需要重新做一些前面做过的事情,这个环节非常重要。每个项目都需要一个明确的,独特的评估标准,如果评估通过(比如正确率到达某个标准)就可以上线。
建模的时候都会把给定的数据分成训练数据和测试数据, 主要是为了验证模型的好坏,只有通过测试数据才能看到模型训练得到底行不行。



喜欢的朋友记得点赞、收藏、关注哦!!!


http://www.ppmy.cn/server/142444.html

相关文章

VMware 17虚拟Ubuntu 22.04设置共享目录

VMware 17虚拟Ubuntu 22.04设置共享目录 共享文件夹挂载命令&#xff01;&#xff01;&#xff01;<font colorred>配置启动自动挂载Chapter1 VMware 17虚拟Ubuntu 22.04设置共享目录一、卸载老版本二、安装open-vm-tools<font colorred>三、配置启动自动挂载四、添…

【计网不挂科】计算机网络第一章< 概述 >习题库(含答案)

前言 大家好吖&#xff0c;欢迎来到 YY 滴计算机网络 系列 &#xff0c;热烈欢迎&#xff01; 本章主要内容面向接触过C的老铁 本博客主要内容&#xff0c;收纳了一部门基本的计算机网络题目&#xff0c;供yy应对期中考试复习。大家可以参考 本章为分章节的习题内容题库&#x…

【青牛科技】视频监控器应用

1、简介&#xff1a; 我司安防产品广泛应用在视频监控器上&#xff0c;产品具有性能优良&#xff0c;可 靠性高等特点。 2、图示&#xff1a; 实物图如下&#xff1a; 3、具体应用&#xff1a; 标题&#xff1a;视频监控器应用 简介&#xff1a;视频监控器工作原理是光&#x…

Spring Boot编程训练系统:架构设计与实现技巧

1系统概述 1.1 研究背景 随着计算机技术的发展以及计算机网络的逐渐普及&#xff0c;互联网成为人们查找信息的重要场所&#xff0c;二十一世纪是信息的时代&#xff0c;所以信息的管理显得特别重要。因此&#xff0c;使用计算机来管理编程训练系统的相关信息成为必然。开发合适…

【SQL】E-R模型(实体-联系模型)

目录 一、介绍 1、实体集 定义和性质 属性 E-R图表示 2. 联系集 定义和性质 属性 E-R图表示 一、介绍 实体-联系数据模型&#xff08;E-R数据模型&#xff09;被开发来方便数据库的设计&#xff0c;它是通过允许定义代表数据库全局逻辑结构的企业模式&#xf…

并发编程(9)——Actor/CSP设计模式

文章目录 九、day91. Actor设计模式2. CSP设计模式2.1 使用C实现CSP2.2 通过CSP实现ATM取款逻辑 九、day9 在并发编程中&#xff0c;多个线程可能需要同时访问相同的内存资源。为了防止不同线程之间的资源冲突&#xff0c;传统并发设计方法通常使用共享内存和加锁机制来确保线…

RHEL/CENTOS 7 ORACLE 19C-RAC安装(纯命令版)

一 首先需要安装两个CENTOS 7虚拟机(此处省略)。 由于我们是要安装ORCLE-RAC双节点集群所以至少每个CENTOS虚拟机上需要两块网卡&#xff0c;并且两块网卡都是HOST-ONLY具体步骤请看视频一《为虚拟机添加网卡》 这里大家需要注意的是&#xff0c;我们需要绑定两台机器的IP一共…

新标准大学英语综合教程1课后习题答案PDF第三版

《新标准大学英语&#xff08;第三版&#xff09;综合教程1 》是“新标准大学英语&#xff08;第三版&#xff09;”系列教材之一。本书共包含6个单元&#xff0c;从难度和话题上贴近大一上学生的认知和语言水平&#xff0c;包括与学生个人生活领域和社会文化等相关内容&#x…