V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  fcten  ›  全部回复第 1 页 / 共 31 页
回复总数  616
1  2  3  4  5  6  7  8  9  10 ... 31  
AI 难道是产品做出来的吗?如果你的 技术人才 是指 CRUD Boy ,那其实没有 AI 之前也是这样,大部分普通公司里都是产品掌握话语权。
个人评价 K3 > GPT > Gemini
我已经开始无限 429 了,我服了。

Error: [provider.rate_limit] 429 The engine is currently overloaded, please try again later
2 天前
回复了 lelelelelelele 创建的主题 问与答 Kimi K3,不来个朴实无华的讨论吗?
真的慢。体感只有 20 ~ 30 token/s 。而且即使这么慢的情况下,99 套餐单任务开发也只能撑 2 小时不到。已升级 199 套餐。
效果还可以,让它帮我把项目的前端优化一下,找出来的问题基本都对,解决方案也不错。准备拿它辅助 Codex 一起用一段时间看看。
为啥开季度会员获得的积分比月度会员少
5 天前
回复了 mingtdlb 创建的主题 Local LLM 跑本地大模型 电费要多少?
@mingtdlb 比较的是输出相同 token 的能耗。N 卡的推理速度是 Mac 是好几倍。

服务器虽然散热好,但是单机要塞下 8 卡,分给每张卡的散热功率就非常有限了。
5 天前
回复了 mingtdlb 创建的主题 Local LLM 跑本地大模型 电费要多少?
RTX PRO 6000 ,Qwen3.5-35B-A3B 大概一度电能输出 68.8 ~ 86.7 万 token (已计算整机功耗),或者说每百万 token 约 1.14 ~ 1.45 度电。

Qwen3.5 27B 一度电大约能输出 13.3 万~ 19.5 万 token ,或者说每百万 token 5.1 ~ 7.5 度电

注意这是 FP16 全精度+ 不开 MTP 的推理消耗,如果 量化 + MTP 的话,推理速度能到 2 ~ 3 倍,功耗则不会有太大变化。

其实 N 卡的单位 token 电力成本是要比 Mac 低的。

而且这还是工作站显卡,如果是服务器计算卡的话电力成本会更低。因为计算卡需要考虑电力成本,会尽量设置在功耗-性能相对均衡的甜点区域,不会为了性能极限拉频率。

另外,增加并发也会增加 N 卡的优势。因为 N 卡的算力优势在低并发下基本浪费了。

(当然服务器有额外的运行/散热成本,但是假如数据中心用 Mac 的话也一样有这些成本,要注意为了提供相同的服务容量,Mac 会消耗更多电力,也就会产生更多热量)

ds v4 flash 激活只有 13B ,叠加上 dspark 、ds 本身的工程优化,粗略估计电费成本在每百万 token 0.5 ~ 1 度电。
5 天前
回复了 semistack 创建的主题 问与答 Codex 重置卡未到账调查
新号注册才半个月已经收到两张了。美区 apple 礼品卡订阅 20x 。
你应该先自己想一想,或者找她沟通一下,是否你自己在给她打电话这件事情上做的有问题,有没有没什么事,单纯只是懒得打字所以打电话的情况,导致她觉得你屁大点事也打电话,完全不尊重她的情况。

如果确实没有,那给你的号码单独加个来电白名单就好了。
5 天前
回复了 DisastrousNet 创建的主题 投资 两天时间,今年白干了
@DisastrousNet 控制仓位,宁可少赚点,也不要一次全亏光
你这个模式每次都全仓杀入的话很危险
5 天前
回复了 baiic 创建的主题 投资 定投基金真的那么夸张吗?
如果有人告诉你定投某个基金,保底年化 8%、10%,那一定是在忽悠你,高收益一定伴随着高风险。

但是推荐定投基金本身没有问题。并非这个操作本身有多么优秀,而是它适配大多数人的现金流(工资按月到账)。对于理财新手来说,定投中低风险基金是一个不错的入门方式。
你用 300 刀请人来干活,也未必能解决问题。是否可以得出这些人也没有思想。

这个世界的运转就是建立在这些人之上的(俗称草台班子)

用人的时候,需要了解人能力的边界,把合适的任务交给合适的人去做。需要知道控制风险,不要随便把危险的权限下放给新来的实习生。需要建立标准化的流程,用强约束去保证人犯错的时候产生的影响在可控的范围内(测试/灰度/回滚)。

用 AI 也是同理。
A 股 +18%
美股 -40%
...
11 天前
回复了 panas 创建的主题 职场话题 你们招聘会要求不允许使用副屏吗?
@jjx 反正我们招聘不考古法编程了,coding 环节是 AI coding 。虽然我司平均年薪没有几百万,一百万还是有的


@catamaran 涉及算子优化和底层框架的不了解,我们做后训练 100% AI coding
12 天前
回复了 panas 创建的主题 职场话题 你们招聘会要求不允许使用副屏吗?
第一肯定不能看副屏,不然摄像头都不用开了,直接语音面试不就好了

第二想不出现在还有 coding 环节的理由。掌握基本理论知识完全就够了。八股该彻底淘汰了。
12 天前
回复了 booyah 创建的主题 生活 同事送了个洗碗机之后回不去了
洗碗机真的是好东西,极大地提升在家做饭等幸福感

不要问我 xx 放不进洗碗机/洗碗机洗不了怎么办,不能进洗碗机的餐具厨具就扔了换能进的
13 天前
回复了 Danswerme 创建的主题 Claude Code Opus 4.8 越来越脑瘫了
看上去要么是幻觉了,要么是前缀缓存 bug 了
16 天前
回复了 NorthGod 创建的主题 Local LLM 多机异构显卡组合推理
多机 PP 的话首 token 延迟会爆炸,估计上下文稍微长点没个 5 分钟吐不出来字

搞多卡至少也得跑起来 ds v4 flash 这种模型吧,跑个 qwen3.6 27b 这种稍微量化一下就能在消费级显卡上跑起来的模型没啥意思。
17 天前
回复了 NorthGod 创建的主题 Local LLM 多机异构显卡组合推理
依靠普通家用内网 10G/2.5G 的带宽是很难获得可用的推理性能的。如果能升级到 100G 以上,可能勉强还能用,不过这价格就不便宜了。
17 天前
回复了 dn19911123 创建的主题 OpenAI 有没有抢到 glm coding plan 的家人啊
估计没资源了,最近工作日 tps 都掉到 5 、60 左右了,以前都有 80 左右...
1  2  3  4  5  6  7  8  9  10 ... 31  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1142 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 52ms · UTC 17:40 · PVG 01:40 · LAX 10:40 · JFK 13:40
♥ Do have faith in what you're doing.