alansalexer
V2EX  ›  问与答

Feed 去重

  •  
  •   alansalexer · May 2, 2015 · 2830 views
    This topic created in 4211 days ago, the information mentioned may be changed or developed.

    订阅多个资讯网站以后,会发现部分资讯是重复的。相似的资讯,A/B/C 三个网站的feed流里都有。
    有没有什么工具是可以将feed流去重或按关键词分一下组,再展示给用户呢?

    6 replies  •  2015-05-02 23:52:19 +08:00
    zts1993
    zts1993
    May 2, 2015
    1
    去重复的话,检测文本是否相似吧,最简单的是VSM

    关键词分组最简单就是用朴素贝叶斯分类器了

    这两个自己写代码应该不复杂
    Stof
    Stof
    May 2, 2015 via iPhone
    2
    目前来说成品没有。
    whtsky
    whtsky
    May 2, 2015 via iPhone
    3
    买个 Fever ,看 Hot
    myoula
    myoula
    May 2, 2015
    4
    百度有个算法,也比较简单。
    把内容按照一句一句的长度进行排序,然后把每句的hash值保存起来,根据hash值来看相似度。
    据说这种方式 80%左右的几率避免重复。
    binux
    binux
    May 2, 2015
    5
    很久以前就有过这样的想法,还能给 yande.re Konachan.com 去重就更好了
    Daniel65536
    Daniel65536
    May 2, 2015
    6
    fever有,很智能。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4641 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 01:32 · PVG 09:32 · LAX 17:32 · JFK 20:32
    ♥ Do have faith in what you're doing.