 |
TGOccV2EX member #817343, joined on 2026-05-28 23:36:20 +08:00Today's activity rank 7470PRO |
| Air M5 32G 跑本地模型快冒烟了， 6 月没发新硬件， 9 月会发 MAC mini M5 或 M5 Pro 吗？有没有会冲的。
Mac mini • TGOcc PRO |
23 |
| 宽带限速及网络连通性讨论
宽带症候群 • TGOcc PRO |
17 |
| Mac book air M5 32G+1TB 能跑本地大模型？
Local LLM • TGOcc PRO |
17 |
| 上海电信限速及精品网
1 宽带症候群 • TGOcc PRO |
15 |
TGOcc's recent replies
4h 55m ago Replied to a topic by lynn1su › 宽带症候群 › 下次中国国际出口扩容是啥时候啊？距离上次好久了吧？ |
电信 cn2 ，精品网优惠后 50/月，办的比较早，现在没这个业务了。速度是快，国内 38ms ，到对岸 158ms ，也分网段的，58 开头也分好坏。
3 days ago Replied to a topic by ook › 宽带症候群 › 没有公网 IPv4， IPv6 又是动态的，大家现在怎么低成本暴露家庭服务？ |
装飞牛系统，开 ipv6+ddns,备选方案官方 FN Connect 内网穿透，免费的有 2-4Mbps ，收费最高能到 40Mbps ，v4 跟 v6 都能访问。你说的几个服务应该都能支持。
9 days ago Replied to a topic by TGOcc › Mac mini › Air M5 32G 跑本地模型快冒烟了， 6 月没发新硬件， 9 月会发 MAC mini M5 或 M5 Pro 吗？有没有会冲的。 |
苹果自己来了一波涨价，我朋友 6 月 25 号下单买的 M5 Mac book Pro 64G 版本，2.28W,第二天直接涨到了 3.2W,还好商家没拦截快递比较诚信。苹果后面再发新机，价格肯定是会往上涨了。
Jun 29 Replied to a topic by Flynn2018 › NAS › 笔记本安装飞牛运行一年后电池鼓包了 |
如果对机器性能没什么特别高要求，可以直接买个软路由安装飞牛，你 24 小时*365 天都没问题，而且成本也不高，按需求，从两三百到一千多都能选。要再考虑预算弄个二手的。
Jun 26 Replied to a topic by NorthGod › 宽带症候群 › 福建移动 PT 限速如何解 |
你算挺好的啦，上海移动限速夸张，PT 直接上行限到 80-200KB ，大部分时间没速度，自己桥接才有 ipv6 公网。1000M 下行 100M 上行，这限的你说夸张不。
Jun 22 Replied to a topic by TGOcc › 宽带症候群 › 宽带限速及网络连通性讨论 |
@linhu66 感谢告知，那就不折腾了，目前已经部分解决自己常用项的限速问题，不跑 pt 上行，也没啥限速的影响了。
Jun 22 Replied to a topic by TGOcc › 宽带症候群 › 宽带限速及网络连通性讨论 |
@linhu66 操作数据模版后还会因为 pt 的上行进限速名单吗？还是只暂时解决？
Jun 22 Replied to a topic by sdcg1994 › 宽带症候群 › 你们的上海联通 9929 都还好吗 |
@dizhang 能帮到你就好，后续注意 pt 上行流量，我现在基本上不太用电信做 pt 上行了。58.32 的延迟要比 41 低，拨到了就别换。
Jun 19 Replied to a topic by TGOcc › 宽带症候群 › 宽带限速及网络连通性讨论 |
@linhu66 重做数据模版是个啥意思，是装维后台操作吗？还是要上门解决？
Jun 18 Replied to a topic by TGOcc › Mac mini › Air M5 32G 跑本地模型快冒烟了， 6 月没发新硬件， 9 月会发 MAC mini M5 或 M5 Pro 吗？有没有会冲的。 |
@techhe 不正常吧，我 32g 内存，跑 Qwen3.6-35B-A3B-4bit 速度还不错。
oMLX - LLM inference, optimized for your Mac
Benchmark Model: Qwen3.6-35B-A3B-4bit
Engine: Auto
================================================================================
Single Request Results
--------------------------------------------------------------------------------
Test TTFT(ms) TPOT(ms) pp TPS tg TPS E2E(s) Throughput Peak Mem
pp1024/tg128 1265.0 15.99 809.5 tok/s 63.0 tok/s 3.296 349.5 tok/s 19.20 GB
pp4096/tg128 6128.9 16.64 668.3 tok/s 60.6 tok/s 8.242 512.5 tok/s 19.89 GB
Continuous Batching
pp1024 / tg128
--------------------------------------------------------------------------------
Batch tg TPS Speedup pp TPS pp TPS/req TTFT(ms) E2E(s)
1x 63.0 tok/s 1.00x 809.5 tok/s 809.5 tok/s 1265.0 3.296
2x 119.1 tok/s 1.89x 461.2 tok/s 230.6 tok/s 2847.9 6.591
4x 235.4 tok/s 3.74x 370.4 tok/s 92.6 tok/s 6131.4 13.234
oMLX - LLM inference, optimized for your Mac
Benchmark Model: Qwen3.6-35B-A3B-4bit
Engine: Auto
================================================================================
Single Request Results
--------------------------------------------------------------------------------
Test TTFT(ms) TPOT(ms) pp TPS tg TPS E2E(s) Throughput Peak Mem
pp1024/tg128 1265.0 15.99 809.5 tok/s 63.0 tok/s 3.296 349.5 tok/s 19.20 GB
pp4096/tg128 6128.9 16.64 668.3 tok/s 60.6 tok/s 8.242 512.5 tok/s 19.89 GB
Continuous Batching
pp1024 / tg128
--------------------------------------------------------------------------------
Batch tg TPS Speedup pp TPS pp TPS/req TTFT(ms) E2E(s)
1x 63.0 tok/s 1.00x 809.5 tok/s 809.5 tok/s 1265.0 3.296
2x 119.1 tok/s 1.89x 461.2 tok/s 230.6 tok/s 2847.9 6.591
4x 235.4 tok/s 3.74x 370.4 tok/s 92.6 tok/s 6131.4 13.234
Select Language