推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
itertools
V2EX  ›  Python

服务端处理耗时任务思路

  •  
  •   itertools · Jul 3, 2017 · 4621 views
    This topic created in 3410 days ago, the information mentioned may be changed or developed.

    需求是客户会上传单个或者很多文件,要求提供的接口把处理结果返回客户端。 我目前的思路有: 对于单个文件可以直接等待处理完成,然后把结果返回客户端。 对于批量文件可以通过 celery 把处理任务发送其他 worker 去处理,然后,返回一个新的接口供客户端进行结果轮询。

    (服务端处理这些文件需要好几分钟) 现在有几个问题就是:

    • 如果要求一次请求就给出客户端返回结果,那么服务端就会阻塞住接口或者占用一个处理线程。那么用户量多的时候,一直被阻塞住怎么办吗?
    • 如果不要求一次请求返回结果,我上面的思路是否有问题。还有其他的解决思路吗?

    谢谢!

    13 replies  •  2017-07-04 14:42:40 +08:00
    fatedier
    fatedier
    Jul 3, 2017
    1
    异步任务 && IO 多路复用
    Reign
    Reign
    Jul 3, 2017 via iPhone
    2
    与其在这多耗脑细胞不如多买几台服务器
    beneo
    beneo
    Jul 3, 2017
    3
    上传都走 CDN,客户端传 URL 到服务端
    misaka19000
    misaka19000
    Jul 3, 2017 via Android
    4
    @Reign 服务器就是钱啊。。。
    misaka19000
    misaka19000
    Jul 3, 2017 via Android
    5
    感觉用户量多的时候无解,只能做集群来提升任务处理能力
    itertools
    itertools
    OP
    Jul 3, 2017
    6
    @fatedier 那有什么异步框架可以推荐下?
    还有几个疑问请教:就是如果服务端接口采用异步框架处理这个任务。
    (假设这耗时任务使用了 5 分钟)
    1.如果客户端使用同步请求,那么客户端是否就一直阻塞五分钟?这样不会出现请求超时,连接中断问题吗?
    2.如果客户端使用异步请求,那么客户端五分钟之后就能接到处理结果?这五分钟之内是怎么保持连接不中断的?

    谢谢!
    SlipStupig
    SlipStupig
    Jul 3, 2017
    7
    @beneo 上传走 cdn 作用不大,都是 stream 数据,cdn 根本 cache 不到
    我的想法是 HAProxy 做负载均衡,后台开多个 server,用 celery 可以开多个 worker,可以选 gevent,然后把相关数据全部存储到远程的对象存储(建议用第三方)上,当客户请求,相应相关 URL,让客户端下载就行了,多个和一个没什么区别?
    yidinghe
    yidinghe
    PRO
    Jul 3, 2017
    8
    统一用轮询来查询处理状态,这样给将来留下的余地比较好。
    mooncakejs
    mooncakejs
    Jul 3, 2017 via iPhone
    9
    @SlipStupig 他说的是直传
    em70
    em70
    Jul 3, 2017 via Android
    10
    可以看看优酷,YouTube 对上传视频转码是如何处理的,上传后出现到列表,状态显示正在处理,用户可以随时上来看处理完了没
    ericls
    ericls
    Jul 3, 2017 via iPhone
    11
    我觉得只要用 websocket 让客户知道处理的进度就好了
    Morriaty
    Morriaty
    Jul 4, 2017
    12
    接口直接返回一个 upload_id,异步处理上传,再给一个查询 upload_id 进度的接口
    ma125125t
    ma125125t
    Jul 4, 2017
    13
    文件存储用第三方
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1569 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 50ms · UTC 23:29 · PVG 07:29 · LAX 15:29 · JFK 18:29
    ♥ Do have faith in what you're doing.