jahan

请教一下 elasticsearch 分析交易流水类的数据库文本(以||分割),如何才能导入到 elasticsearch 里面? mapping?有没有工具可以直接通过 sql 转化成可以导入的格式呢?

  •  
  •   jahan · Feb 9, 2018 · 10210 views
    This topic created in 3190 days ago, the information mentioned may be changed or developed.

    想通过例子学习一下,如何把数据导入到 elasticsearch。 需要看那部分文档呢?

    18 replies  •  2018-02-14 19:28:34 +08:00
    kslr
    kslr
    Feb 9, 2018
    1
    比如 mysql 就可以把 binlog 同步进去
    jahan
    jahan
    OP
    Feb 9, 2018
    2
    https://www.jianshu.com/p/1bf53ebfcdcf

    貌似这个有一个 txt 的导入,不过我文件里面不单单是字符型?还有金额,这样的话,该怎么给字符定义类型呢?
    jahan
    jahan
    OP
    Feb 9, 2018
    3
    @kslr 我现在的情况是文件是从数据库导出的 del 备份,有建表语句,但是数据库损坏了。所以可能不能直接从数据库导出了。
    tomczhen
    tomczhen
    Feb 9, 2018
    4
    需要看 logstash 的 input plugins 和 filter plugins 部分,也可以查一下有没有第三方 input plugin 可以直接满足要求,没有话大概就是用 Grok filter plugin 了。
    lfzyx
    lfzyx
    Feb 9, 2018
    5
    你要做的就是把 elasticsearch 当作一个键值数据库
    1.建立一个索引
    2.把数据库文本中的每个条目转换成一个 json 串
    3.把转换后的数据插入索引
    SakuraKuma
    SakuraKuma
    Feb 9, 2018
    6
    1. 建索引,mapping
    2. 会写代码?
    转文本到 json,api 插入 es
    : logstash #4
    jahan
    jahan
    OP
    Feb 9, 2018
    7
    @SakuraKuma python 可以写。有现成的可以参考吗?

    @lfzyx 谢谢。
    @tomczhen 我来试试。就是这几个工具都有点摸不着头,说命令行吧,貌似也不是,说网页吧,貌似很少键可以点击。
    刚刚学习。

    话说一次能读多大的文本块?
    jahan
    jahan
    OP
    Feb 9, 2018
    8
    如果有比较精简、完整的文档推荐,那就太感谢了
    jahan
    jahan
    OP
    Feb 9, 2018
    9
    @SakuraKuma 建立索引这块,有没有工具可以直接把 sql 建表语句变成索引?
    owenliang
    owenliang
    Feb 9, 2018
    10
    可以自己编程。
    defunct9
    defunct9
    Feb 9, 2018 via iPhone
    11
    链接里有,把 sql 结果整理成 json,导入即可
    mooncakejs
    mooncakejs
    Feb 9, 2018
    12
    awk + curl
    jalja27
    jalja27
    Feb 9, 2018 via Android
    13
    es 2 版本可以用 jdbc 的工具。分隔符可以 logstash grok
    jerome918
    jerome918
    Feb 10, 2018
    14
    可以用 spark 跑吧,读文件生成 rdd 然后用 es-spark 的 api 写入到 es 中,当然 es 中要首先建好 mapping.
    jahan
    jahan
    OP
    Feb 10, 2018
    15
    @jerome918 现在就是想通过 sql 建表语句直接转换成索引,初学没找到特别踏实( step by step,表和索引怎么对应)的例子。
    SakuraKuma
    SakuraKuma
    Feb 11, 2018
    16
    @jahan #7 elasticsearch-sql
    jahan
    jahan
    OP
    Feb 14, 2018
    17
    @defunct9 大量的数据怎么整理成 json 呢,有没有现成的轮子呢
    defunct9
    defunct9
    Feb 14, 2018 via iPhone
    18
    @jahan 自己写个不就好了,拼字符串的事
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4732 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 52ms · UTC 09:14 · PVG 17:14 · LAX 01:14 · JFK 04:14
    ♥ Do have faith in what you're doing.