› SQLite
MrLonely
V2EX  ›  SQLite

在什么情况下一定要放弃 SQLite 采用 MySQL 呢?

  •  
  •   MrLonely · Sep 30, 2022 · 6627 views
    This topic created in 1496 days ago, the information mentioned may be changed or developed.

    现在在一家小公司里帮忙做一些数据处理,金融方面的。数据都是从人工处理过的 Excel 里来的。目前数据放进 SQLite 里大概数据库文件大小在 500MB 左右。后续可能会增长到几百 GB 。

    因为 SQLite 简单,不需要解决配置,端口,用户名,等等复杂问题。即开即用。

    那以后到了什么时候就该从 SQLite 换到 MySQL 了呢?或者换到 SQL Server ?

    32 replies  •  2022-10-11 17:54:14 +08:00
    perfectlife
    perfectlife
    Sep 30, 2022
    1
    从设计时候应该就开始,尤其是预测会增长到几百 GB,用个 mysql 也不费啥劲
    arch9999
    arch9999
    Sep 30, 2022
    2
    迁移起来也简单,但是不加工资就先别搞了。
    temp178
    temp178
    Sep 30, 2022
    3
    肯定是 MySQL ,有相对专业成熟的维护、备份等。sqlLite 是方便,不需要解决配置,端口,用户名,等等复杂问题,但是硬盘坏了呢?服务挂了呢
    iseki
    iseki
    Sep 30, 2022 via Android
    4
    换也不妨去换 SQL Server 或者 PostgreSQL ,MySQL 就没必要了吧
    iseki
    iseki
    Sep 30, 2022 via Android
    5
    暴论
    dcsuibian
    dcsuibian
    Sep 30, 2022❤️1
    6
    SQLite 的读写效率很高,有哪些使用其他数据库的理由? - zzl0 的回答 - 知乎
    https://www.zhihu.com/question/31417262/answer/881191147

    SQLite 文档指出了什么时候用 client/server SQL 数据库(如 MySQL )
    1 、Is the data separated from the application by a network? → choose client/server
    2 、Many concurrent writers? → choose client/server
    3 、Big data? → choose client/server
    4 、Otherwise → choose SQLite!
    MrLonely
    MrLonely
    OP
    Sep 30, 2022
    7
    @perfectlife 主要是这团队里就我一个人会代码,别的地方要花的时间也不少。想先各个方面都搞到能跑起来。但又想心里有数什么时候就改换数据库了。


    @mejee SQLite 就一个文件,暂时用 NAS 备份。MySQL 那些专业的方案我现在都没了解过啊。有什么博客或者链接推荐一下,我去了解了解吗?


    @iseki 这是为啥呀?可以展开讲讲吗?
    mxT52CRuqR6o5
    mxT52CRuqR6o5
    Sep 30, 2022 via Android
    8
    我觉得直接折腾 excel 的函数就行了
    ipwx
    ipwx
    Sep 30, 2022
    9
    我觉得金融数据一股脑扔给 MySQL 也不行,时序数据的支持,关系数据库都比较那啥。

    提高速度的关键在于自己分库分表,优化时间序列的索引方式。但说实话如果你能做到这一步,用 SQLite 你也能做。另一方面金融数据库一般很多时候会用来做实验,如果你能用 SQLite 解决这些事情,你天然多了一种在实验机器上本地缓存数据的方案,这样可以大大减轻你 MySQL 中央数据库的压力。

    退一步你也可以使用 MySQL 中央数据库 + SQLite 本地缓存的模式。
    chendl111
    chendl111
    Sep 30, 2022
    10
    一开始就应该换,做好分库分表,主备同步,在出事的时候才好处理
    Rocketer
    Rocketer
    Sep 30, 2022 via iPhone
    11
    难道不应该用接口 /实现类来做到随便换数据库吗?将来也许会发展到 mysql 也撑不住,那时换 oracle 就是最快能上线的选择。
    rb6221
    rb6221
    Sep 30, 2022
    12
    高级特性,比如数据的版本控制、备份、事务、回滚、多个服务同时读写时的一致性、吞吐量较大等情况下的性能、需要支持较复杂的表结构和查询语句
    安全,你现在不需要用户名密码不代表以后不要。用户名密码也是安全配置的一部分。还有 MySQL 针对漏洞的安全补丁,MySQL 支持的加密特性等
    Mithril
    Mithril
    Sep 30, 2022❤️1
    13
    不需要,SQLite 的性能其实很好。
    之前测过单表两千万的库也就才 40G 的文件,性能一样可以接受。

    而且备份极其简单,特别是你客户没有专业运维的时候,告诉他们下班停了程序文件复制一份就行了。

    想要判断什么时候放弃,那就要想清楚你的程序的生命周期。在这个生命周期内,你打算支持多大量的数据,什么样的业务模式。
    如果你的程序单机跑没法满足需求,那么可能数据库也要考虑替换。
    如果你的程序单机足够满足需求了,没那么大负载也没有高可用需求,那么 SQLite 就是最好的选择。
    line
    line
    Sep 30, 2022
    14
    多台服务器,共用一个数据库, 这个 sqlite 就不行吧。
    chendl111
    chendl111
    Sep 30, 2022
    15
    @ipwx 金融数据有什么更好的存储方案?
    chendl111
    chendl111
    Sep 30, 2022
    16
    @line 好像一般小券商的都只有一台服务器
    liuzhaowei55
    liuzhaowei55
    Sep 30, 2022 via iPhone
    17
    看场景并不需要换 MySQL ,就自己使用,也没有大并发的需求,至于数据量的增长做好数据分库,一类数据搞一个文件就行了,啥维护成本都没有
    Mithril
    Mithril
    Sep 30, 2022
    18
    另外,所谓安全性更不需要考虑。

    当一个人可以物理访问到你的机器时,你就可以认为已经被公婆了。

    从这方面考虑,SQLite 的安全性远超所有其它数据库。

    更别说 SQLite 你可以加密数据文件,但其实意义不大。能接触到数据库文件,说明也能接触到你的程序文件,更别说你这还是服务器,挂个 debugger 连内存都能 dump 出来。这种情况下讨论安全配置没什么意义。
    Mithril
    Mithril
    Sep 30, 2022
    19
    @Mithril typo -> 攻破
    fournoas
    fournoas
    Sep 30, 2022
    20
    你这个情景暂时不需要 mysql ,做好数据文件备份就行了
    fds
    fds
    Sep 30, 2022
    21
    @Mithril SQLite 可以不停程序直接备份吗?前段时间看 https://litestream.io/ 这种专门的备份软件应该是支持。但不确定直接文件复制会不会出错。
    Mithril
    Mithril
    Sep 30, 2022❤️1
    22
    @fds 可以,SQLite 有 Online Backup API ,https://sqlite.org/backup.html
    它的命令行工具就可以直接做 backup
    nekoneko
    nekoneko
    Sep 30, 2022
    23
    高并发下换, 数据量大了换
    Chichele
    Chichele
    Sep 30, 2022
    24
    以前一单机项目用 SQLite ,不知道怎么回事,个别机器(多台)会偶发 SQLite 文件损坏
    ipwx
    ipwx
    Sep 30, 2022
    25
    @chendl111 空口说这个没用的,要看数据使用流程。
    billzhuang
    billzhuang
    Sep 30, 2022
    26
    开启 WAL ,https://www.sqlite.org/wal.html
    做好文件备份,熬到你离职,问题不大。
    mywaiting
    mywaiting
    Sep 30, 2022
    27
    只要是单机版,SQLite 能吊打其他数据库,无论性能还是代码实现的容易程度

    什么时候放弃用 SQLite ,那就是你放弃单机版的实现的时候

    相对客观地说,这个世界大多数的应用都熬不过需要从 SQLite 转换到 MySQL 分库的时候
    akira
    akira
    Sep 30, 2022
    28
    这数据值钱不。。损坏了能接受不 。。或者丢一天的数据你们要亏多少。。
    wxf666
    wxf666
    Oct 2, 2022
    29
    @janus77 请教一下,MySQL 比 SQLite ,多支持了什么实际较常用的『较复杂的表结构和查询语句』呢?
    rb6221
    rb6221
    Oct 3, 2022 via iPhone
    30
    @wxf666 比如储存过程
    wxf666
    wxf666
    Oct 3, 2022
    31
    @janus77 对于 SQLite 而言,宿主语言也可以(甚至更好地)完成相同的任务吧?

    还能更好应对分库分表,利用上 ORM ,减轻数据库压力等


    好吧,就算存储过程是吧。还有啥嘛?
    yingluck
    yingluck
    Oct 11, 2022
    32
    1. 数据库大小,是否超过 281TB, 超过就用 MySQL
    2. 并发写多不多,sqlite3 写操作会锁表,有并发写就换其他的
    3. 操纵数据库的程序和数据库在不在一台机器上,不在的话 sqlite3 不合适
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1323 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 70ms · UTC 20:04 · PVG 04:04 · LAX 12:04 · JFK 15:04
    ♥ Do have faith in what you're doing.