最近在研究 NLP,很多模型都是需要对数据进行预处理,进行分句、分词。那么,对于英语来说,目前分句、分词最好的或者比较多人用、效果最佳的是什么包(或者方法)呢?
下面给出个人的猜测:
- nltk
- spacy
- 纯正则分割
- 暴力用.分句;用空格分词 ...
最近在研究 NLP,很多模型都是需要对数据进行预处理,进行分句、分词。那么,对于英语来说,目前分句、分词最好的或者比较多人用、效果最佳的是什么包(或者方法)呢?
下面给出个人的猜测:
|
liwlJan 15, 2019
1
jiba
|
|
liwlJan 15, 2019
2
结巴分词
|
|
3
之前做项目用的 nltk,配合正则做一些细节调整。周围人也基本都在用 nltk。
|
|
EPr2hh6LADQWqRVHJan 15, 2019
4
英语还用分词?逗我?
英语的词是分好的啊,空格就是分词 |
|
SeaRecluseJan 15, 2019
5
英文正则分割最方便,如果效果不好请先清洗数据。
|
|
lumonixJan 15, 2019
6
我觉得楼主说的是 phrase finding 吧,应该是类似于这片文章里介绍的 https://dl.acm.org/citation.cfm?id=1119287
|
|
aREMbosAlJan 15, 2019
7
英语分词什么意思
|
|
SleipniRJan 15, 2019 via Android
8
英语不需要分词,默认空格已经分好了,但是要做词形还原。
|
|
yanaraikaJan 15, 2019
9
nltk 不知道高到哪里去了 结巴在技术上是在搞笑吗
|