yzc27
V2EX  ›  问与答

目前 NLP 中,对英语进行分句、分词,最佳体验是哪种?

  •  
  •   yzc27 · Jan 15, 2019 · 5199 views
    This topic created in 2856 days ago, the information mentioned may be changed or developed.

    最近在研究 NLP,很多模型都是需要对数据进行预处理,进行分句、分词。那么,对于英语来说,目前分句、分词最好的或者比较多人用、效果最佳的是什么包(或者方法)呢?

    下面给出个人的猜测:

    1. nltk
    2. spacy
    3. 纯正则分割
    4. 暴力用.分句;用空格分词 ...
    10 replies  •  2019-01-15 18:58:02 +08:00
    liwl
    liwl
    Jan 15, 2019
    1
    jiba
    liwl
    liwl
    Jan 15, 2019
    2
    结巴分词
    TotoroSora
    TotoroSora
    Jan 15, 2019 via Android❤️1
    3
    之前做项目用的 nltk,配合正则做一些细节调整。周围人也基本都在用 nltk。
    EPr2hh6LADQWqRVH
    EPr2hh6LADQWqRVH
    Jan 15, 2019
    4
    英语还用分词?逗我?

    英语的词是分好的啊,空格就是分词
    SeaRecluse
    SeaRecluse
    Jan 15, 2019
    5
    英文正则分割最方便,如果效果不好请先清洗数据。
    lumonix
    lumonix
    Jan 15, 2019
    6
    我觉得楼主说的是 phrase finding 吧,应该是类似于这片文章里介绍的 https://dl.acm.org/citation.cfm?id=1119287
    aREMbosAl
    aREMbosAl
    Jan 15, 2019
    7
    英语分词什么意思
    SleipniR
    SleipniR
    Jan 15, 2019 via Android
    8
    英语不需要分词,默认空格已经分好了,但是要做词形还原。
    yanaraika
    yanaraika
    Jan 15, 2019
    9
    nltk 不知道高到哪里去了 结巴在技术上是在搞笑吗
    yzc27
    yzc27
    OP
    Jan 15, 2019 via iPhone
    10
    @liwl 結巴不是只針對中文的嗎?我個人只是聽說過結巴,沒去詳細了解。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2676 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 51ms · UTC 05:10 · PVG 13:10 · LAX 21:10 · JFK 00:10
    ♥ Do have faith in what you're doing.