• 请不要在回答技术问题时复制粘贴 AI 生成的内容
skypyb
V2EX  ›  程序员

网站内容同时存在多种语言的标题时, 怎么做搜索分词?

  •  
  •   skypyb · Jan 3, 2021 · 2260 views
    This topic created in 2133 days ago, the information mentioned may be changed or developed.

    RT.

    假如一个网站需要支持文章搜索。
    那么当文章标题可能存在 中文|日文 时, 这个文章应该如何分词? 用户输入时又如何分词?


    来个好哥哥指点一下

    9 replies  •  2021-01-04 16:14:20 +08:00
    ryh
    ryh
    Jan 3, 2021
    1
    个人觉得可以不用那么复杂,依照用户设置的显示什么语言 或者 header 里的 accept-language 搜那个语言的标题就好了,其他语言忽略

    显示中文 但搜 平假名 片假名 这种倒是好处理,搜日语的就行, 搜汉字的话你怎么处理,只有用户定义( client 设置 /自选)搜索语言
    learningman
    learningman
    Jan 3, 2021
    2
    你看看谷歌怎么处理的呗,你不定义就按网站语言来
    当然谷歌可能还有机器学习之类的东西,但这个方向应该没啥问题
    niubee1
    niubee1
    Jan 3, 2021
    3
    ES 里存多条
    skypyb
    skypyb
    OP
    Jan 3, 2021
    4
    @ryh
    @learningman

    网站就是中文网站, 但是站内内容可能会出现相当一部分的日文标题 (因为是二次元相关)
    如果只搜中文, 那就会漏东西了 😂
    YouLMAO
    YouLMAO
    Jan 3, 2021
    5
    ```
    1. title analyzer 设置中加日, 浪费索引速度 2 倍
    2. 当你知道这个视频包含日语, 比如只占 0.1%的视频, 则同时索引进 title 和 title_jp, 其他情况索引进 title
    ```

    当 query 包含日语, 同时搜索 title+title_jp
    YouLMAO
    YouLMAO
    Jan 3, 2021
    6
    markdown 咋搞的, 不好用
    leekafai
    leekafai
    Jan 4, 2021
    7
    p**b 好像就是这样,多语种 title 都可以搜索得到
    zhuangjia
    zhuangjia
    Jan 4, 2021
    8
    @YouLMAO 仅主贴支持,评论不支持
    huayumo
    huayumo
    Jan 4, 2021
    9
    上 elasticsearch 搜索引擎,数据库分词什么的鼓捣半天不如 es
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2271 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 37ms · UTC 11:40 · PVG 19:40 · LAX 03:40 · JFK 06:40
    ♥ Do have faith in what you're doing.