V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  ShadowPower  ›  全部回复第 26 页 / 共 109 页
回复总数  2166
1 ... 22  23  24  25  26  27  28  29  30  31 ... 109  
❮ ❯
2024 年 11 月 14 日
回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
@WispZhan M3 MAX 128G 可以随便跑,估计还挺快的。M4 Ultra 还没发布呢……
2024 年 11 月 14 日
回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
@234ygg 3.5 没有你想象中那么强,目前 7B 参数量就有 3.5 的能力。3.5 只能写一些模板代码,或者提供代码给它做一些调整,写不出有点深度的东西。
只是在那个从 0 到 1 的时期显得非常惊艳罢了。
2024 年 11 月 13 日
回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
@yanyuechuixue 共享显存不行,对 LLM 性能影响极大,因为 PCIe 带宽太小了。而且 4060Ti 还是 PCIe x8 接口……
2024 年 11 月 13 日
回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
@Donaldo 8bit 的权重有 30.29 GB ,再加上 context 的大小,40GB 应该足够了
2024 年 11 月 13 日
回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
@kennylam777 我还没试过用 Continue ,改天有空的时候试试看
2024 年 11 月 13 日
回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
@spkingr 如果追求运行速度,最低的话,都是整机售价一万多到两万的设备……
门槛还是有点高。
2024 年 11 月 13 日
回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
@HatMatrix 双 3090 或者一块 RTX8000 改散热就可以了,运行 8bit 量化版本,质量损失很小。
我觉得再过一两年可能会有价格低廉的消费级设备来跑。
很多处理器和显卡的架构设计都是两年之前就开始的,当时根本不会有本地 LLM 的需求。
没准将来的普通电脑都会有四通道内存,搭载高性能 NPU 而且针对 LLM 特别优化,同时还有配套的软件设施。
2024 年 11 月 11 日
回复了 dislike 创建的主题 › Apple › Mac mini M4 体验
Windows 的睡眠我觉得还行。我用远程桌面连接就可以唤醒 S3 电源状态的 Windows 台式机……
虽然有点 bug ,第一次连接会连不上,不过此时已经触发唤醒了。再连接一次就可以使用远程桌面了。
2024 年 11 月 11 日
回复了 dilidilid 创建的主题 › Apple › Mac mini 买来用了两天退了
@chuck1in 有啊,买一个妙控键盘
2024 年 11 月 5 日
回复了 wangxiao20170401 创建的主题 › Android › FCM 无法保持连接,大家有办法解决吗?
@MosinVoliet 能解 BL 锁的话,试试用 magisk+fcmfix 模块
2024 年 11 月 3 日
回复了 Jafee 创建的主题 › Apple › MacOS 适合作服务器吗?
这种用途基本上体现不出来 mac 的优势,它的强项绝大多数都在图形界面/音频/色彩方面。
用 mac 跑虚拟机,然后用虚拟机跑服务,想在虚拟机里利用主机的硬件编解码加速都很难做。
然后虚拟机内的 IO 性能还有不小的折扣。

除非你主要用来跑 macOS/iOS 应用的 CI 服务……

还有 x86 的生态总体上还是比 ARM 好,我玩树莓派玩好多年,用不上 GPIO ,最终还是换成 x86 小主机了。
2024 年 10 月 25 日
回复了 showkin 创建的主题 › Android › 不要求原生安卓,哪个品牌手机方便刷欧版系统并保持 ota
@joh 那得是不支持 SIM 卡的平板吧
2024 年 10 月 22 日
回复了 oceaniver 创建的主题 › MacBook Pro › 现在, MAC 已经很适合玩游戏了!
我感觉 Mac 上玩游戏体验都不是很好,可能用手柄操作的游戏还行,用键鼠操作的都不行。
感觉画面渲染或者是鼠标输入有一点延迟,鼠标加速已经关了。属于看不出来但能感觉出来的程度。

能原生运行的游戏也是如此,例如用 Intel Mac 玩以前的 CSGO 。
@turfbook 我之前的 iPhone 信号强度数值比红米 Note 11 T Pro 低 20db (红米:-95dB ,iPhone:-115dB )
同样的位置和同样的运营商,两者位置互换也一样,信号强度基本上稳定

那时候我在地铁上玩原神,通勤要一小时,靠这个打发时间
这游戏如果网络不稳定,打怪会没有伤害,技能也放不出来,然后转圈圈
网络突然恢复了人物还会传送回之前的位置

红米还能玩,只是中途有两个车站稳定掉线
iPhone 全程完全不能玩,一直掉线……
2024 年 10 月 12 日
回复了 chfight 创建的主题 › Android › 安卓手机怎么删除广告偏好?
安卓手机本身不存储广告偏好。
第三方 APP 会把你的广告偏好和你的 APP 账号关联,你在 Android 和 iPhone 之间换着用都能无缝迁移……
2024 年 10 月 9 日
回复了 Wataru 创建的主题 › Windows › Windows 字体渲染好差
如果有 AMD 显卡的话,建议用一下“超虚拟分辨率”功能,把渲染分辨率调到超出物理分辨率的程度,以便使用 200%缩放
不到 200%缩放的话,不少地方字体变大了,但还是 1 像素宽,导致看起来很细……
175%是最糟糕的
1 ... 22  23  24  25  26  27  28  29  30  31 ... 109  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5099 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 36ms · UTC 03:58 · PVG 11:58 · LAX 20:58 · JFK 23:58
♥ Do have faith in what you're doing.