AlexaZhou's recent timeline updates
AlexaZhou

AlexaZhou

V2EX member #78254, joined on 2014-10-23 19:42:53 +08:00
Today's activity rank 1796
1 G 27 S 88 B
想做好一件事情,最好由一个单纯而强大的动机来驱动。Ta会带给你坚毅的眼神,无往而不胜。思考的太多,前进的步伐将彷徨。
以防大家不知道怎么让 Agent 一直干活不停下来
  •  1   
    程序员  •  AlexaZhou  •  Jun 1  •  Lastly replied by dong706
    20
    这一瞬间感觉被 AI 击中了
    程序员  •  AlexaZhou  •  May 25  •  Lastly replied by visper
    19
    MacBook 改圆机身的猜想
    MacBook Pro  •  AlexaZhou  •  Oct 25, 2021  •  Lastly replied by blue0125
    12
    AlexaZhou's recent replies
    @stardust21

    主要有三个区别:
    1. 轻量且高性能
    2. 另外提供 litellm 没有的一些功能,如:可视化分析,缓存优化,去隐私追踪等
    3. 支持多平台,包括:桌面应用,serverless 平台部署,docker 容器
    @xiaoz
    感谢支持,预计这两天就把 opencode go 的 header 支持上
    Aug 5
    Replied to a topic by eggt 问与答 macos 上容器运行时推荐用哪个呢?
    @jeffqiu 看着很不错,已经 star
    https://github.com/alexazhou/gt_ai_gateway

    我专门写了个轻量级网关,可以自动移除 claudecode 里面的随机标记,大幅度提升缓存命中率,还能可视化分析每个请求的内容,希望能解决你的问题

    https://raw.githubusercontent.com/alexazhou/gt_ai_gateway/master/images/cch_cache.png
    Jul 18
    Replied to a topic by davinci21s 深圳 深圳的西瓜是镶了金边吗,这么贵
    很大一部分成本在房租和人工
    cloudflare 的 worker 平台很好用,我开发了一个大模型 API 网关,也是部署到 cf 平台上,数据库也是使用 cf 自带的 D1 ,维护成本几乎为 0 ,非常方便

    https://github.com/alexazhou/gt_ai_gateway
    Jul 12
    Replied to a topic by skai OpenAI codex++ 都有中转聚合了
    你说的是 API 网关吗?我写了一个,可以支持协议转换,跟请求可视化分析,还有缓存优化。比 LiteLLM 之类要好用很多,希望对你有用

    https://github.com/alexazhou/gt_ai_gateway
    @vinsony 刚发现 tag 打在一个较早的 commit 上了😂,所以没有把这个功能包含进来

    我已经重新发了个 v1.8.3 版本,这次包含在里面了
    @skuuhui 很好的建议的,这个功能我正在开发了,估计这几天就能发出来
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   858 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 21:29 · PVG 05:29 · LAX 14:29 · JFK 17:29
    ♥ Do have faith in what you're doing.