爱意满满的作品展示区。
redchamber

用 DeepSeek 跑无人值守的编程 agent,记了 20 个合并 PR 的账:中位数 $0.125 一个

  •  
  •   redchamber ·
    xqliu · 15h 41m ago · 594 views
  •   You need to sign in to view this topic

    上周在这发过 Orbi (给 GitHub Issue 打 ai-ready 标签,AI 写代码、另起一轮评审、合并、发版)。这回只贴账单。

    9 月 22 日起,Orbi 自己仓库的交付全换成了 deepseek-flash ( V4.1-Flash )。我把 22 到 24 号合并的 20 个 PR 拉出来算了一遍,每个 PR 从写代码、评审、返工一直到合并,整条链路的 token 都算进去:

    • 中位数 1061 万 token ,跑 60 分钟左右,调了 156 次模型
    • 按官方价,非高峰中位数 $0.125 一个 PR ,最贵那个 $0.417
    • 高峰价格翻倍,中位数 $0.249 ,最贵 $0.834

    便宜就一个原因:97.1% 的 token 是缓存命中。DeepSeek 缓存命中每百万 token $0.003 ,没命中是 $0.15 ,差 50 倍。agent 一遍遍读同一批文件、同一段对话,缓存吃得很满。

    中间踩过一个坑。一开始上下文窗口只配了 131K ,Pi ( Orbi 底下的 agent 运行时)过了 115K 左右就压缩会话,只留最近两万 token 。22 号以来 77 个交付会话里有 32 个被压缩过,压完之前读过的文件、看过的测试输出全没了,只能重读重跑。后来把窗口配满 1M 才不再这样。

    两点限定:样本只是我们自己的仓库,Python 、CI 齐全、票写得清楚,换个仓库数字肯定会变;整笔账靠缓存撑着,换成不支持缓存的接口会贵很多。

    顺带一个时间上的小便宜:高峰是工作日北京时间上午 9 点到 12 点、下午 2 点到 6 点。DeepSeek 价格页写了中国法定节假日不算高峰,这个国庆全天都是低价。

    20 个 PR 对应的 Issue 都公开,明细在这: https://orbi.build/zh/cost/?ref=v2ex-261001

    在用 DeepSeek 跑 agent 的朋友,你们缓存命中率大概多少?

    redchamber
        1
    redchamber  
    OP
       15h 41m ago
    有人问怎么接,贴一下我们用的 provider 配置,key 走环境变量:
    ```
    {
    "providers": {
    "deepseek": {
    "baseUrl": "https://api.deepseek.com/v1",
    "api": "openai-completions",
    "apiKey": "$DEEPSEEK_API_KEY",
    "models": [
    {"id": "deepseek-flash", "name": "DeepSeek Flash", "contextWindow": 1000000, "maxTokens": 16384}
    ]
    }
    }
    }
    ```
    contextWindow 一定要填满 1000000 ,填小了就是上面说的反复压缩。文件在仓库 templates/pi-providers/deepseek.json ,自托管免费。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   845 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 19:31 · PVG 03:31 · LAX 12:31 · JFK 15:31
    ♥ Do have faith in what you're doing.