V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  catazshadow  ›  全部回复第 11 页 / 共 115 页
回复总数  2300
1 ... 7  8  9  10  11  12  13  14  15  16 ... 115  
❮ ❯
绝不加班,坚持啃大部头
8 月 26 日
回复了 SSang 创建的主题 › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享
@SSang 垃圾佬服务器主板上直插的,甚至都不全是 x16 的槽
8 月 26 日
回复了 SSang 创建的主题 › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享
@SSang 图灵,相当于 2080 这代

nvlink 自己玩玩用不上,PCIe 就足够了,我这个甚至是跨了 NUMA 节点的 PCIe 通信。T10 也没有 nvlink 。

nvlink 黄鱼上 300 块一个桥接器简直就是抢钱
8 月 26 日
回复了 SSang 创建的主题 › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享
@SSang 可以找个带 switch 的 PCIe 扩展板上 4 卡,V100 好像玩的人比 T10 多一点
@liufangyuan247 手机自带的设置吗?
8 月 26 日
回复了 SSang 创建的主题 › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享
@SSang Q5 应该是有些量化方法在反量化的时候,硬件没有原生支持,需要的指令太多。老卡上我都不敢碰非 2 的整数次幂的量化
8 月 26 日
回复了 SSang 创建的主题 › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享
@SSang 看 log 平均 7 、800 的样子吧,有时能飙到一千多但我觉得应该是算错了,还见过一次一万多的
8 月 26 日
回复了 SSang 创建的主题 › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享
4 张 T10 ,AWQ 量化,F16 的 kv ,256K 长度,vllm tp ,mtp 长度 2 ,decode 能有 45 tps ,并发 2 的时候能摸到 80 tps ,爽了很久了
手机玩这些最麻烦的是电池😅,一直插着几个月就鼓包了
8 月 26 日
回复了 Bullish 创建的主题 › 生活 › 最近老刷到男性觉醒的视频
@microscopec 550C 真的太快了
8 月 25 日
回复了 tht1286545749 创建的主题 › 程序员 › 为什么机器人一定是“人”呢
能制造人了,那就是上帝一般的地位。更何况这种人还是绝对服从的绝不背叛的

稍微有点野心的都能嗅到这里面的诱惑
https://www.v2ex.com/t/980937

你们自己选的嘛
@sillydaddy 此黑盒不是彼黑盒。

你这是犯了只看名不看实的逻辑谬误

海马和河马,都是马吗?
领导也不能预测未来,但领导为什么要说走弯路呢?因为客观事实发展跟他想的,也是显而易见正确的,那种发展不一样,所以一定是客观事实的错,故而你们走了弯路
不要走弯路根本就是伪概念,这样想的前提是好像你能看清所有未来的走向,还能挑出某种资源(比如时间)消耗最小的那条

你能预测未来吗?不能,你只能走你的那条路
1 ... 7  8  9  10  11  12  13  14  15  16 ... 115  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1860 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 44ms · UTC 11:46 · PVG 19:46 · LAX 03:46 · JFK 06:46
♥ Do have faith in what you're doing.