自然语言处理-停用词

news/2024/11/23 16:27:09/

[做一个搬运工,信息来自百度百科]

停用词

     停用词是指在信息检索中,为节省存储空间和提高搜索效率,在处理自然语言数据(或文本)之前或之后会自动过滤掉某些字或词,这些字或词即被称为Stop Words(停用词)。这些停用词都是人工输入、非自动化生成的,生成后的停用词会形成一个停用词表。

    但是,并没有一个明确的停用词表能够适用于所有的工具。甚至有一些工具是明确地避免使用停用词来支持短语搜索的。

类别

    对于一个给定的目的,任何一类的词语都可以被选作停用词。通常意义上,停用词大致分为两类。一类是人类语言中包含的功能词,这些功能词极其普遍,与其他词相比,功能词没有什么实际含义,比如'the'、'is'、'at'、'which'、'on'等。但是对于搜索引擎来说,当所要搜索的短语包含功能词,特别是像'The Who'、'The The'或'Take The'等复合名词时,停用词的使用就会导致问题。另一类词包括词汇词,比如'want'等,这些词应用十分广泛,但是对这样的词搜索引擎无法保证能够给出真正相关的搜索结果,难以帮助缩小搜索范围,同时还会降低搜索的效率,所以通常会把这些词从问题中移去,从而提高搜索性能。

介绍

    人类语言包含很多功能词。与其他词相比,功能词没有什么实际含义。最普遍的功能词是限定词(“the”、“a”、“an”、“that”、和“those”),这些词帮助在文本中描述名词和表达概念,如地点或数量。介词如:“over”,“under”,“above” 等表示两个词的相对位置。 这些功能词的两个特征促使在搜索引擎的文本处理过程中对其特殊对待。第一,这些功能词极其普遍。记录这些词在每一个文档中的数量需要很大的磁盘空间。第二,由于它们的普遍性和功能,这些词很少单独表达文档相关程度的信息。如果在检索过程中考虑每一个词而不是短语,这些功能词基本没有什么帮助。 在信息检索中,这些功能词的另一个名称是:停用词(stopword)。称它们为停用词是因为在文本处理过程中如果遇到它们,则立即停止处理,将其扔掉。将这些词扔掉减少了索引量,增加了检索效率,并且通常都会提高检索的效果。停用词主要包括英文字符、数字、数学字符、标点符号及使用频率特高的单汉字等。

功能

    为节省存储空间和提高搜索效率,搜索引擎在索引页面或处理搜索请求时会自动忽略某些字或词,这些字或词即被称为Stop Words(停用词)。通常意义上,Stop Words大致为如下两类:

    1、这些词应用十分广泛,在Internet上随处可见,比如“Web”一词几乎在每个网站上均会出现,对这样的词搜索引擎无 法保证能够给出真正相关的搜索结果,难以帮助缩小搜索范围,同时还会降低搜索的效率;
    2、这类就更多了,包括了语气助词、副词、介词、连接词等,通常自身 并无明确的意义,只有将其放入一个完整的句子中才有一定作用,如常见的“的”、“在”之类。

    举个例子来说,像“IT技术点评”,虽然其中的“IT”从我们的本意上是指“Information Technology”,事实上这种缩写也能够为大多数人接受,但对搜索引擎来说,此“IT”不过是“it”,即“它”的意思,这在英文中是一个极其常见 同时意思又相当含混的词,在大多数情况下将被忽略。我们在IT技术点评中保留“IT”更多地面向“人”而非搜索引擎,以求用户能明了IT技术点评网站涉及的内容限于信息技术,虽然从SEO的角度这未必是最佳的处理方式。

汉语停用词整理
英语停用词整理


http://www.ppmy.cn/news/623383.html

相关文章

中文停用词表和英文停用词表

最近在做一些基本的中英文NLP任务,其中在过滤掉文本中的特殊字符、对文本进行分词之后,要去除文本中的停用词,所以从网上找了两个中英文的停用词表,传到博客里方便以后使用。 中文分词列表链接:https://pan.baidu.com…

手机html己停用怎么办,iphone手机出现已停用请五分钟再试怎么办

iphone手机出现已停用请五分钟再试怎么办 当苹果手机出现了iphone已停用请五分钟再试怎么办呢,下面小编介绍一下。 具体如下: 1. 当解锁苹果手机时,连续输错了四次密码后,会出现1分钟后才能继续输入密码 2. 如果1分钟后,输入的密码还是错误的,那么手机将被锁定5分钟 3. 如…

android 停用应用的命令,免Root使用ADB命令_停用手机系统应用

菜鸟教程,老鸟勿喷! 对于未解锁的手机,总存在那么一些我们用不到,甚至看都不想看到的应用,但是没办法卸载,在这里提供一些禁用掉这些应用的方法供参考: 1. 开发者模式打开ADB调试 2. 连接电脑,在电脑上下载adb应用包,一般的一键刷写Recovery包都带有 3. 在adb.exe …

计算机用户被停用,电脑教程:Windows7用户被停用解决方法

一些使用win7系统的用户开机时发现使用的用户被禁用了,无法进入到正常的操作系统里面,Windows7用户被停用这个问题是比较常见的,接下来小编将给大家介绍win7用户被停用的解决方法。 系统都需要有用户才能登陆使用,win7系统用户开机…

苹果id被停用_三招解决Apple ID停用问题

为什么正常使用苹果手机,突然会出现“您的Apple ID已被停用”这个提示,关于这个问题,本期就来为您答疑解惑。ID停用一般在设备上可能会看到以下警告: “出于安全原因,此 Apple ID 已被停用”“您无法登录,因为您的帐户已出于安全原因而被停用”“出于安全原因,此 Apple I…

计算机网络里的DHCP是什么,路由器的DHCP是什么意思?有什么作用

首先我们再啰嗦一遍,局域网内的电脑互相通信,必须具有网内的唯一IP地址(互联网咱们先不讨论吧)、子网掩码、默认网关,如果需要通过域名访问互联网,还需要DNS服务器地址。 假设我们有一两台电脑,在电脑上直接指定地址,工作量不算什么,对于专业技术人员也不算什么。但对于…

计算机重启遇到你的账户已被停用,win10 administrator你的账户已被停用怎么办

有时因为一些误操作导致之前创建的本地管理员账户被删除掉,而win10系统内置的Administrator账户默认又是禁用的状态无法使用,这时开机就会提示administrator你的账户已被停用,面对这种情况,很多用户都无从下手,所以接下来小编就来…

为什么Microsoft账号登录显示暂时停用你的账户_Apple ID 被锁定或停用怎么办?

当用户在使用 Apple ID,可能会遇到账户已经停用的提示,例如会出现以下警告: 1.出于安全原因,此 Apple ID 已被停用; 2.您无法登录,因为您的帐户已出于安全原因而被停用; 3.出于安全原因,此 Apple ID 已被锁定。 出现以上三种提示是因为,如果您或其他人输入您的密码、安…