自然语言处理-基于注意力机制的文本匹配

devtools/2024/9/24 20:33:32/

背景:

任务三:基于注意力机制的文本匹配

输入两个句子判断,判断它们之间的关系。参考ESIM(可以只用LSTM,忽略Tree-LSTM),用双向的注意力机制实现。

  1. 参考

    1. 《神经网络与深度学习》 第7章

    2. Reasoning about Entailment with Neural Attention https://arxiv.org/pdf/1509.06664v1.pdf

    3. Enhanced LSTM for Natural Language Inference https://arxiv.org/pdf/1609.06038v3.pdf

  2. 数据集:The Stanford Natural Language Processing Group

  3. 实现要求:Pytorch

  4. 知识点:

    1. 注意力机制

    2. token2token attetnion

  5. 时间:两周

受限于实际资料的限制,这里只模糊叙述信息,不展示所有资料

过程:

最初使用RNN完成了所述要求,训练出了对应的模型,后增加了分词算法与可视化界面展示,最终变为LSTM解决

源码获取

欢迎大家点赞、收藏、关注、评论、批评啦 、查看👇🏻👇🏻获取联系方式👇🏻👇🏻


http://www.ppmy.cn/devtools/116655.html

相关文章

线程池任务执行出现异常,如何知道是哪个线程出了异常?

自定义线程工厂类,去实现ThreadFactory的接口,为每个线程设定setUncaughtExceptionHandler,记录异常信息。 public class CustomThreadFactory implements ThreadFactory { Override public Thread newThread(Runnable r) { Thread thread …

C++中类的创建和声明

目录 前言 一、类的概念 二、对象 前言 说实话,C和C语言有比较大的差别,在C语言中我们面向的是过程,即要怎么实现功能的过程,在C中,我们面向对象,将这些功能和函数封装起来,用到直接调用对象&…

嵌入式面试学习笔记(入门1)

目录 指针的大小问题 sizeof和strlen C语言分配内存的方式 数组(的)指针和指针(的)数组 union 指针的大小问题 指针对于不少新手而言是一道难关,但是不必恐惧于指针。他的本质其实就是一个地址。请冷静下来仔细思…

【大模型专栏—实战篇】从0到1带你QLoar微调

大模型专栏介绍 😊你好,我是小航,一个正在变秃、变强的文艺倾年。 🔔本文为大模型专栏子篇,大模型专栏将持续更新,主要讲解大模型从入门到实战打怪升级。如有兴趣,欢迎您的阅读。 &#x1f4…

Debezium日常分享系列之:将容器镜像移至 quay.io

Debezium日常分享系列之:将容器镜像移至 quay.io 在Debezium 3.0.0.Final发布之后,我们将不再向docker.io发布容器镜像更新。旧版本的Debezium 2.x和1.x镜像将继续保留在docker.io上;然而,所有未来的Debezium 2.7.x和3.x或更高版本…

python | huey,一个非常厉害的 任务调度 Python 库!

本文来源公众号“python”,仅用于学术分享,侵权删,干货满满。 原文链接:huey,一个非常厉害的 Python 库! 大家好,今天为大家分享一个非常厉害的 Python 库 - huey。 Github地址:h…

图片切换示例2【JavaScript】

这段代码实现了一个简单的图片切换效果。当用户将鼠标悬停在不同的小缩略图上时&#xff0c;主显示框&#xff08;#box&#xff09;的背景图片会切换为相应的缩略图所代表的图片。 实现效果&#xff1a; 代码&#xff1a; <!DOCTYPE html> <html lang"zh"…

project generator 简单使用(二)之 CLion 与 AC6

文章目录 1 AC6 之于 CLion2 配置 progen3 可执行文件 size 显示优化4 测试 1 AC6 之于 CLion 1&#xff09;在上一篇文章中&#xff0c;我们知道 project generator 通过其 “Write Once, Compile any Tool” &#xff08;跨工具&#xff09;的特性&#xff0c;可以让我们使用…