概括
有爬取进程如wget正在持续对一个文件夹写入大量较小的文件,如何迁移已经完成写入的文件到其他服务器以腾出空间?
需求
- 不影响正在进行的数据爬取进程(不要迁移正在被写入的文件)
- 迁移可靠,不会因为迁移而丢失数据
- 迁移后所有数据都在新服务器上,旧服务器上
留下 0 字节文件以便比对部分爬取是否失败(跳过已经存在的文件) - 不考虑加硬盘的方案 Orz
更难一点的需求
如果持续写入的不是多个小文件,而是一个整个大文件,即将写满硬盘
这种情形下可不可能 分块完成迁移 且 对写入这个文件的进程 无感知?