通过Python的jieba库对文本进行分词

news/2024/11/8 9:08:13/

文章目录

  • 前言
  • 一、jieba库是什么?
  • 二、安装jieba库
  • 三、查看jieba版本
  • 四、使用方法
    • 1.引入库
    • 2.定义需要分词的文本
    • 3.使用分词模式进行分词
      • 3.1精确模式(默认)
      • 3.2全模式
      • 3.3搜索引擎模式
    • 4.将分词结果转换为列表
    • 5.打印分词结果
    • 6.分词效果对比
      • 6.1精确模式(默认)
      • 6.2全模式
      • 6.3搜索引擎模式
  • 总结


前言

大家好,我是空空star,本篇给大家分享一下通过Python的jieba库对文本进行分词。


一、jieba库是什么?

Python的jieba库是一个中文分词工具,它可以将一段中文文本分割成一个一个的词语,方便后续的自然语言处理任务,如文本分类、情感分析等。jieba库使用了基于前缀词典的分词方法,能够处理中文的各种复杂情况,如歧义词、新词等。它还提供了多种分词模式,如精确模式、全模式、搜索引擎模式等,以适应不同场景的需求。此外,jieba库还支持用户自定义词典,使得分词结果更加准确。

二、安装jieba库

 pip install jieba

三、查看jieba版本

 pip show jieba

Name: jieba
Version: 0.42.1
Summary: Chinese Words Segmentation Utilities
Home-page: https://github.com/fxsjy/jieba
Author: Sun, Junyi
Author-email: ccnusjy@gmail.com
License: MIT
Requires:
Required-by:

四、使用方法

1.引入库

import jieba

2.定义需要分词的文本

text = "我爱发动态,我喜欢使用搜索引擎模式进行分词"

3.使用分词模式进行分词

3.1精确模式(默认)

试图将句子最精确地切开,适合文本分析。

seg_list = jieba.cut(text)

3.2全模式

把句子中所有的可能成词的词语都扫描出来,速度很快,但是不能解决歧义。

seg_list = jieba.cut(text, cut_all=True)

3.3搜索引擎模式

在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。

seg_list = jieba.cut_for_search(text)

4.将分词结果转换为列表

word_list = list(seg_list)

5.打印分词结果

print(word_list)

6.分词效果对比

6.1精确模式(默认)

['我爱发', '动态', ',', '我', '喜欢', '使用', '搜索引擎', '模式', '进行', '分词']

6.2全模式

['我', '爱', '发动', '动态', ',', '我', '喜欢', '使用', '搜索', '搜索引擎', '索引', '引擎', '模式', '进行', '分词']

6.3搜索引擎模式

['我爱发', '动态', ',', '我', '喜欢', '使用', '搜索', '索引', '引擎', '搜索引擎', '模式', '进行', '分词']

总结


http://www.ppmy.cn/news/67934.html

相关文章

Golang每日一练(leetDay0063) 最大数、重复的DNA序列

目录 179. 最大数 Largest Number 🌟🌟 187. 重复的DNA序列 Repeated DNA Sequences 🌟🌟 🌟 每日一练刷题专栏 🌟 Golang每日一练 专栏 Python每日一练 专栏 C/C每日一练 专栏 Java每日一练 专栏…

[LitCTF 2023] crypto,pwn,rev

这个比赛有巨多的题,而且基本上都很简单,队里答疯了。其实没大意思,本来不想写了,可又没啥可写,这周也就干点这个,算是放松吧。 Crypto 1,HEX 略 2,梦想是红色的,略 3,原来你也玩…

IP网络电话呼叫转移设置

这里的网络电话呼叫转移设置,我们以IP电话系统用方位的网络电话机为例说明 通话转移 当用户正在与对方通话时,并希望将呼叫转移到其他号码,这里有两种方法来转移呼叫,出席移转和非出席移转。 出席移转 出席移转也被称为“礼貌…

Pinia和Vuex的区别

Pinia和Vuex都是Vue.js状态管理库 Pinia是一个轻量级的状态管理库,它专注于提供一个简单的API来管理应用程序的状态。 相比之下,Vuex是一个更完整的状态管理库,它提供了更多的功能,比如模块化、插件和严格模式等。 Pinia是基于V…

【2023华为OD笔试必会25题--C语言版】《19 单词倒序》——字符串

本专栏收录了华为OD 2022 Q4和2023Q1笔试题目,100分类别中的出现频率最高(至少出现100次)的25道,每篇文章包括原始题目 和 我亲自编写并在Visual Studio中运行成功的C语言代码。 仅供参考、启发使用,切不可照搬、照抄,查重倒是可以过,但后面的技术面试还是会暴露的。✨✨…

Go 语言开发工具

Go 语言开发工具 VSCode VScode 安装教程参见:https://www.kxdang.com/topic//w3cnote/vscode-tutorial.html 然后我们打开 VSCode 的扩展(CtrlShiftP): 搜索 go: 点击安装,安装完成后我们就可以使用代码…

变分法与固定端点动态优化

变分法与固定端点动态优化 目录 文章目录 变分法与固定端点动态优化目录 [toc]1经济学中动态优化事实1.1 Ramsey(1928)最优储蓄1.2 Eisner and Strotz(1963)最优规模扩张1.3 Hotelling(1931)资源最优抽取 2 动态优化一般形式2.1一般形式2.2 特点2.3 目标泛函形式2.4 边界约束条…

unity用ComputeShader做模型流体喷涂喷绘工具

最近在研究喷涂喷绘项目,需要做大量纹理图形运算,因此更适合用GPU来处理,在unity中用ComputeShader完成像素运算,SurfaceShader完成纹理渲染。 实现思路: 1.用射线碰撞模型,得到碰撞纹理坐标brushX和brus…