V2EX › zzutmebwd 的所有回复 › 第 2 页 / 共 253 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10 ... 253

❮

❯

6 月 17 日

回复了 cheman 创建的主题 › 程序员 › 公司想搞本地化算力部署 deepseek coder v2 给技术用，听到 AMD 锐龙 AI Halo 也不算贵，可行么

@fcten 问题是顶级开源模型不如顶级闭源模型。

6 月 15 日

回复了 mingtdlb 创建的主题 › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

@mingtdlb 口径问题，你看的值除以 2 即可，现在 nv 的宣传话术眼花缭乱的，你看比值即可。

6 月 15 日

回复了 mingtdlb 创建的主题 › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

相比 pro6000d：
fp32/16：5090 83% pro6000d 59%
fp4: 5090 83% pro6000d 29%

6 月 15 日

回复了 mingtdlb 创建的主题 › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

您看一下：
精度 RTX 5090 Pro 6000 D（特供） Pro 6000 Blackwell
FP32 104.8 TFLOPS 74 TFLOPS 126 TFLOPS
FP16 ~209.5 TFLOPS 148 TFLOPS ~252 TFLOPS
FP4 ~1676 TFLOPS 593 TFLOPS ~2015 TFLOPS
pro6000d 的算力值是从图册里抄的，目测是软件限制，全网都搜不到。

6 月 15 日

回复了 mingtdlb 创建的主题 › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

d2VjaGF0OiBobnN5d2Q= base64 联系

6 月 15 日

回复了 mingtdlb 创建的主题 › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

@lifechan 和封禁没关系，国外也 1w 刀以上了，都贵。

6 月 15 日

回复了 mingtdlb 创建的主题 › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

@mingtdlb 又一个被骗的，这个卡就搜不到真实资料，我是差点买了，后面看了厂家图册直接退了（当时 pro6000d 4 万多点 pro6000 才 6w 我就直接买 pro6000 了），图册直接拿来和 L20 比，颇有拳打南山敬老院的意思，算力削的不像样子，fp16 只有 pro 6000 的 60%，fp4 只有 30%（应该是软件限制），带宽削的不多、显存又大，所以跑 llm 问题不大。比 5090 肯定比不了，5090 实际只比 pro6000 低 10%算力。
但是以现在 5w 出头的价格，pro6000d 性价比就很高了。

6 月 12 日

回复了 Livid 创建的主题 › Local LLM › DiffusionGemma

@coefu 你看下跑分呢，gemma4 原版都干不过 qwen3.6 ，这个 diffusiongemma 更笨了...不是新的就是好

6 月 12 日

回复了 pz886 创建的主题 › 职场话题 › 25 岁专科女生，求网友指路

目前这个市场行情，还是嫁人来钱快。

6 月 12 日

回复了 sentinelK 创建的主题 › Local LLM › lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度

@sentinelK 是的，我的配置和你是一样的，我是主机 ubuntu 跑 ai 和服务，虚拟机 windows ，windows 直通 cpu 核显平时用用，也很流畅。

6 月 12 日

@sentinelK 你都跑 ai 了，还用 windows 吗？ hhh ，不是强词夺理哈，确实是很奇怪的选择。

6 月 12 日