word2vec
2024/9/18 12:50:08
第N8周：使用Word2vec实现文本分类
本文为365天深度学习训练营 中的学习记录博客原作者：K同学啊 一、数据预处理
任务说明:
本次将加入Word2vec使用PyTorch实现中文文本分类，Word2Vec 则是其中的一种词嵌入方法，是一种用于生成词向量的浅层神经网络模型，由Tomas M…
【自然语言处理】Word2VecTranE的实现
作业一 Word2Vec&TranE的实现
1 任务目标
1.1 案例简介
Word2Vec是词嵌入的经典模型，它通过词之间的上下文信息来建模词的相似度。TransE是知识表示学习领域的经典模型，它借鉴了Word2Vec的思路，用“头实体关系尾实体”这一简单的训练目…
CS224N第二课作业--word2vec与skipgram
文章目录 CS224N: 作业2 word2vec (49 Points)1. Math: 理解 word2vec计算 J n a i v e − s o f t m a x ( v c , o , U ) J_{naive-softmax}(v_c, o, U) Jnaive−softmax(vc,o,U) 关于 v c v_c vc 的偏导数计算 J n a i v e − s o f t m a x ( v c , o , U ) J_{na…
AI大模型之路 第二篇： Word2Vec介绍
你好，我是郭震 今天我来总结大模型第二篇，word2vec，它是大模型的根基，一切NLP都会用到它。 Word2Vec Word2Vec 是一种流行的自然语言处理（NLP）工具，它通过将词汇表中的每个单词转换成一个独特的…
【NLP练习】使用Word2Vec实现文本分类
🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者：K同学啊 一、数据预处理
1. 任务说明 本次加入Word2Vec使用PyTorch实现中文文本分类，Word2Vec则是其中的一种词嵌入方法，是一种用于生成词向量…
【NLP练习】使用Word2Vec实现文本分类
🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者：K同学啊 一、数据预处理
1. 任务说明 本次加入Word2Vec使用PyTorch实现中文文本分类，Word2Vec则是其中的一种词嵌入方法，是一种用于生成词向量…
【自然语言处理】Word2VecTranE的实现
作业一 Word2Vec&TranE的实现
1 任务目标
1.1 案例简介
Word2Vec是词嵌入的经典模型，它通过词之间的上下文信息来建模词的相似度。TransE是知识表示学习领域的经典模型，它借鉴了Word2Vec的思路，用“头实体关系尾实体”这一简单的训练目…
【大模型LLM面试合集】大语言模型基础_Word2Vec
Word2Vec 文章来源：Word2Vec详解 - 知乎 (zhihu.com) 1.Word2Vec概述
Word2Vec是google在2013年推出的一个NLP工具，它的特点是能够将单词转化为向量来表示，这样词与词之间就可以定量的去度量他们之间的关系，挖掘词之间的联系。
…
第22周：调用Gensim库训练Word2Vec模型
目录
前言
一、Word2vec基本知识
1.1 Word2Vec是什么
1.2 Word2Vec两种主要模型架构
1.2.1 CBOW模型
1.2.2 Skip-gram模型
1.3 实例说明
1.4 调用方法
二、准备工作
2.1 安装Gensim库
2.2 对原始语料分词
2.2 添加自定义停用词
三、训练Word2Vec模型
四、模型应用…
自然语言处理: RAT = CoT + RAG
Retrieval Augmented Thoughts (RAT) 是一种协同思维链 (CoT) 和检索增强生成 (RAG) 的 AI 提示策略，助力解决具有挑战性的长任务推理和生成。
RAG
有关于RAG的介绍可以参考我之前的博文: 自然语言处理: 第十五章RAG(Retrieval Augmented Generation) 开发能够像人…
NLP-使用Word2vec实现文本分类
Word2Vec模型通过学习大量文本数据，将每个单词表示为一个连续的向量，这些向量可以捕捉单词之间的语义和句法关系。本文做文本分类是结合Word2Vec文本内容text，预测其文本标签label。以下使用mock商品数据的代码实现过程过下：
1、…
泛读笔记：从Word2Vec到BERT
自然语言处理(NLP)模型的发展历史 1.统计方法时期：使用贝叶斯方法、隐马尔可夫模型、概率模型等传统统计方法 2.机器学习时期：支持向量机(SVM)、决策树模型、随机森林、朴素贝叶斯等传统机器学习方法 3.深度学习革命：各种新的深度学习模型&am…
NLP-使用Word2vec实现文本分类
Word2Vec模型通过学习大量文本数据，将每个单词表示为一个连续的向量，这些向量可以捕捉单词之间的语义和句法关系。本文做文本分类是结合Word2Vec文本内容text，预测其文本标签label。以下使用mock商品数据的代码实现过程过下：
1、…
第N6周：中文文本分类-Pytorch实现
本文为365天深度学习训练营 中的学习记录博客原作者：K同学啊 一、准备工作
任务说明
本次将使用PyTorch实现中文文本分类。主要代码与N1周基本一致，不同的是本次任务中使用了本地的中文数据，数据示例如下： 任务： ●1…
LLM - 词向量 Word2vec
1. 词向量是一个词的低维表示，词向量可以反应语言的一些规律，词意相近的词向量之间近乎于平行。 2. 词向量的实现： （1）首先使用滑动窗口来构造数据，一个滑动窗口是指在一段文本中连续出现的几个单词&#x…
词向量（One-Hot Encoding、Word Embedding、Word2Vec）
词向量，顾名思义，用向量表示单词。 1、One-Hot Encoding
One-Hot编码，又称为一位有效编码，主要是采用N位状态寄存器来对N个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候只有一位有效。
One…