senx0000
V2EX  ›  数据库

数据库大字段 json 内容提取最佳实践

  •  1
     
  •   senx0000 · Apr 22, 2024 · 3051 views
    This topic created in 924 days ago, the information mentioned may be changed or developed.
    目前数据库是 oracle 11g ,不支持 json 之类的函数,现在想把一个表里 clob 字段存储的 json 格式内容中的 key 和 value 提取出来存到另一个表,json 有多层如{"a":{"b":"c"}},表里数据量是百万级,如何实现能保证速度不能太慢?
    我能想到的是写个批处理程序,有没有相应的框架或者更快的方案推荐?
    9 replies  •  2024-04-23 16:26:49 +08:00
    hemingway
    hemingway
    Apr 22, 2024❤️1
    1
    百万级还好吧,如果是我做,思路:把源表的数据导出到文件,写一个处理程序处理这个文件得到你要的数据给是,然后导入到新表
    javalaw2010
    javalaw2010
    Apr 22, 2024
    2
    用你熟悉的语言快速写个批量处理的程序,这个量级,你有找别的方案的时间,数据都导完了。
    senx0000
    senx0000
    OP
    Apr 22, 2024
    3
    如果是亿级数据呢?感觉应该有现成的方案。
    SuperMari0
    SuperMari0
    Apr 22, 2024
    4
    正则?
    zw1one
    zw1one
    Apr 22, 2024
    5
    json 数据,要不直接切换到 MongoDB ?
    dode
    dode
    Apr 22, 2024
    6
    oracle 原生支持 json 运算,处理吗
    Jasckcc
    Jasckcc
    Apr 22, 2024
    7
    使用 PL/SQL 编写存储过程:
    编写一个 PL/SQL 存储过程来解析和提取 JSON 数据,然后将提取出的数据插入到目标表中
    realJamespond
    realJamespond
    Apr 22, 2024
    8
    不放 elk 搞起?
    dada88xyxy
    dada88xyxy
    Apr 23, 2024
    9
    可以试试用 kettle 来做,读取后再写入
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4932 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 37ms · UTC 03:47 · PVG 11:47 · LAX 19:47 · JFK 22:47
    ♥ Do have faith in what you're doing.