V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  catazshadow  ›  全部回复第 9 页 / 共 115 页
回复总数  2287
1 ... 5  6  7  8  9  10  11  12  13  14 ... 115  
❮ ❯
9 月 11 日
回复了 lchkid 创建的主题 › 分享发现 › 智谱·杭州全城 Coding 计划,至高补贴 51%
市场竞争不过,开始动用行政手段了
9 月 9 日
回复了 Donahue 创建的主题 › 分享发现 › 现在会不会是 AI 的诺基亚时代?
一定要类比吗?这能类比吗?
开 astra ultra 画
画裸女
9 月 7 日
回复了 zzutmebwd 创建的主题 › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4
@coefu 好像一直有 40 多吧,我 kv cache 用的 f16 ,哦,对了这个 vllm 是魔改过的能够在图灵卡上跑 flashinfer 的
9 月 7 日
回复了 zzutmebwd 创建的主题 › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4
@catazshadow 哦还有我用的是 AWQ
9 月 7 日
回复了 zzutmebwd 创建的主题 › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4
@coefu 啊这。我因为上下文的关系倒是在用 qwen3.8 。。。

我 vllm 一直单并发能有 40TPS ,双并发有 80 多。你开 MTP 了吗
9 月 7 日
回复了 florentino 创建的主题 › 问与答 › 我大概理解 AGI 是啥了
AGI 是 IT 界的核聚变
9 月 6 日
回复了 tty0 创建的主题 › 生活 › 拼多多购物体验真的是很恶心
为什么要去送手机给并夕夕黑
9 月 4 日
回复了 zzutmebwd 创建的主题 › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4
@coefu 啊这😅
9 月 3 日
回复了 zzutmebwd 创建的主题 › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4
@coefu 这个有多少 prefill ?
9 月 3 日
回复了 CaptainD 创建的主题 › 随想 › 我认为苹果是 AI 时代最大赢家,核心在 Mac
通过说称赞苹果这样正确的废话来标榜自己,是果粉存在的心理机制
8 月 31 日
回复了 frank1256 创建的主题 › NAS › Nas 播放音乐用啥 App
自己装个 ampache ,然后找个支持 subsonic API 的 app 比如说 Ultrasonic
8 月 30 日
回复了 zxypro 创建的主题 › 程序员 › 求 100 USD AI 订阅推荐, grok 还是 gemini?
订没审查的
8 月 29 日
回复了 nododo 创建的主题 › 生活 › 闲鱼手续费分好几笔扣
除了黄鱼还有啥可以用的
1 ... 5  6  7  8  9  10  11  12  13  14 ... 115  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1736 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 38ms · UTC 16:03 · PVG 00:03 · LAX 08:03 · JFK 11:03
♥ Do have faith in what you're doing.