V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  AlexaZhou  ›  全部回复第 1 页 / 共 34 页
回复总数  670
1  2  3  4  5  6  7  8  9  10 ... 34  
https://github.com/alexazhou/gt_ai_gateway

我专门写了个轻量级网关,可以自动移除 claudecode 里面的随机标记,大幅度提升缓存命中率,还能可视化分析每个请求的内容,希望能解决你的问题

https://raw.githubusercontent.com/alexazhou/gt_ai_gateway/master/images/cch_cache.png
7 天前
回复了 davinci21s 创建的主题 深圳 深圳的西瓜是镶了金边吗,这么贵
很大一部分成本在房租和人工
7 天前
回复了 luojiedev 创建的主题 程序员 2026,我将博客部署到了 Cloudflare(CF)
cloudflare 的 worker 平台很好用,我开发了一个大模型 API 网关,也是部署到 cf 平台上,数据库也是使用 cf 自带的 D1 ,维护成本几乎为 0 ,非常方便

https://github.com/alexazhou/gt_ai_gateway
13 天前
回复了 skai 创建的主题 OpenAI codex++ 都有中转聚合了
你说的是 API 网关吗?我写了一个,可以支持协议转换,跟请求可视化分析,还有缓存优化。比 LiteLLM 之类要好用很多,希望对你有用

https://github.com/alexazhou/gt_ai_gateway
@vinsony 刚发现 tag 打在一个较早的 commit 上了😂,所以没有把这个功能包含进来

我已经重新发了个 v1.8.3 版本,这次包含在里面了
@skuuhui 很好的建议的,这个功能我正在开发了,估计这几天就能发出来
@vinsony

bro ,今天发布了 v1.8.2 版本,已经加上清理请求的功能了

https://i.imgur.com/mgRk4WR.png
@S0lution

我来解释下这个前因后果吧,当时需要一共用户统计的功能,就在前端页面,接入了比较知名的 PostHog 。然后因为不需要用户行为记录(我只想看个日活和地区),就设置了 disable_session_recording: true , 来关掉用户行为记录,但是并没有注意到这个设置下,还会上报一些事件😂,这个其实不是预期中的行为

而且看起来在你的环境里面,因为某些原因请求不成功,还导致了不断重试,更放大了这个问题

下个版本会加入对应的开关,来允许彻底关闭 PostHog 。并且会看怎么调整 PostHog 配置,在不关闭的情况下也只采集最基础的日活数据,如果 PostHog 不支持的话,会去掉他

安全和隐私倒是不用担心,代码都是开源的,并没有收集其他信息,当然也很抱歉给你造成困扰
@S0lution

提醒回复,我来回答下你的问题

1. 之前许可证文件不对,刚已经重新上传修改为 MIT
2. 差异很多,主要是设计逻辑不太一样,这个不想做太重的企业级功能,主要面向个人和小团队场景,更简单易用,后续会支持插件定制化。其他也可以参考上面的,我就不再重复了
3. 考虑的,这是我目前主力在用的工具,所以一定会把自用模式优化好
4. 协议转换确实有一些难度,转换的时候,会尽最大努力保持可用性,web_search / file_search 这两个是 codex 服务端提供的能力,anthropic 没有,所以目前丢掉保证可用;后续会看有没有其他方式来做 ployfill
5. 目前定位会覆盖所有个人桌面端 gateway 的需求,会持续开发,不用担心可持续性。并且对个人场景来说,提供了 mac / win 应用,这样更方便,当然 docker 也是有的
6. 另外放二维码是为了获取用户第一手反馈,因为很多人懒得提 issue 😂,如果有个群就更好的收集用户反馈,能把这个产品做好,当然也有一定的宣传作用,因为现阶段不比之前,酒香也怕巷子深,这个项目的宣传目前看是严重不足的的,望理解

最后,欢迎试用和提出意见
24 天前
回复了 HK560 创建的主题 Claude 看完能不骂一句的可以成神了
主要是 claude 的模型,和客户端还是有可取之处的,有时候不得不用😂

注入的位置是这个地方:

https://i.imgur.com/jnlKxpI.png

我开发了一个功能,在 GtAIGateway 网关里面支持抹去这个标记,并且能可视化观察所有的请求上下文,有需要可以使用
https://github.com/alexazhou/gt_ai_gateway
@skuuhui
1. 这个说法没有依据😂
2. 对大部分使用中转站的人来说,不存在因为使用 gateway 被封号
3. 更重要的是防止被识别出来,针对性的降低输出质量(看看这么多人吐槽降智的)
我觉得在网关层做比较好:
1. 首先网关在转发 API 的时候,可以清理掉其中的遥测信息,解决了上面第一条
2. cc 客户端请求的是本地网关地址,就解决了上面第二条

至于邮件,就只能自己小心了,比如开全局再打开 A 家的邮件

我作晚在网关上实现了相关功能,可以自动去掉这些信息,并且能可视化查看请求详情,有需要可以使用 https://github.com/alexazhou/gt_ai_gateway
@WorldDominator
很好的建议,安排
@vinsony 可以的,这一两天加个清理功能和开关来控制
@Greenm

两个原因:
1. 主要是日常还要用这个😂,对不想卸载也不想让他在背后搞小动作的情况,总要有个解决方案
2. 这种用户量足够大的软件,基本都被研究的很清楚了,不会一直处于被动

这里给大家提供多一个选择,让大家可以按需屏蔽掉,总会有人需要的
@hitrip 总要在反抗和站着不动让人打中间选一个。反抗可能有后果,但我不想站着不动让人打
6 月 29 日
回复了 fakEHacker 创建的主题 程序员 DeepSeek 好贵啊
@fakEHacker @shintendo 一听就是缓存命中的问题,我开源了一个 gt_ai_gateway ,可以提升缓存命中率,并且看到每个请求的详情,推荐试试看

https://github.com/alexazhou/gt_ai_gateway

![提升缓存命中]( https://raw.githubusercontent.com/alexazhou/gt_ai_gateway/master/images/cch_cache.png)
1  2  3  4  5  6  7  8  9  10 ... 34  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1031 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 29ms · UTC 18:40 · PVG 02:40 · LAX 11:40 · JFK 14:40
♥ Do have faith in what you're doing.