但中國國內 UDP 跨城或跨網的掉包都很嚴重，EasyTier 的 KCP 能否在 tunnel 端解決這問題？

@12wk34 其實我在中國旅行時用 300ms 回家用 Agent 也不太大問題, 工作節奏是慢了一點但不算不能用, 畢竟在日本或歐洲的 agent 都有機會連到美國節點, 但痛苦的是人看 Google 及其他網頁爽度落差很有感

中國一線以外都算便宜, 吃得也還好, 但旅居用御三家 AI 工作來說網絡不行, 暫時體驗最好的不是香港 SIM, 而是新加坡 SIM, 香港 SIM 的 RTT 在廣東也繞到接近 200ms, 新加坡的 70ms 左右。

只談肉身在當地的旅居, 越南沒去過不知道當地網絡如何, 但馬來西亞還不錯, Codex/Antigravity/Claude 都沒問題, 只是也不算很便宜, 要英語能通還是要花一點錢, 華語除了吃飯就沒用過。

日本應該網絡質素更好吧, 吃的也很好, 在鄉村一點的地方住 Airbnb 也有光纖到戶的 WiFi 還便宜, 開車也十分爽, 天氣比馬來西亞更舒服, 只是英文通行度更少, 不過沖繩的 Airbnb 跟世界各地特別是歐洲都強太多, 便宜乾淨設備足, 雖然位置好像不甚麼樣但能停幾台車, 開車到 7-11/FamilyMart 也只是 5 分鐘的事。

不過中國駕照在日本不能開, 可能還是要考慮住在市區。

@phinex 本來我就一堆 microservices, 有時候需求變動要幾個組件一起改

@justd 看看這個 https://opencode.ai/docs/agents/#model

示例中的 agent 就叫做'cheap-model', 你可以改成其他名字
```json
{
"agent": {
"cheap-model": {
"model": "anthropic/claude-haiku-4-20250514"
}
}
}
```

我是直接在 main agent 中 用 GPT 5.5, plan 的時候要它 "cheap-model"的 sub-agent 去實作及跑 smoke-test

反正有免費的 model, 你可以先用免費的試試這種配置, 到能用的時候再接入 Codex subscription, provider 選 OpenAI 就可以
https://opencode.ai/docs/providers/#openai

OpenCode 已經很不錯吧, 我配 Codex 的 subscription, GPT5.5 還挺能打, 要幹重活的話, 用多個 sub-agents 配 Deepseek 去跑吧, 然後讓主 agent 的 GPT 5.5 驗收就成

我的重置了, 比預定早了一天, 算小賺一點

OpenCode 能用 Codex subscriptions 真的很佛心, 先用 GPT5.5 計劃好, 再用其他便宜的模型跑 subagents 去實作及 smoke-test 成功為止, 這樣的分配還真的省下不少 Codex usage

想買 MiMo token plan Lite 但不知道小米模型甚麼樣, 總算能免注冊先試用了

模型還不錯, 但 harness 很拉, 無論是 agy (CLI)還是 IDE 還是 Agent, 都很容易改錯 file, 然後不管你有沒有 git commit 都給你來一個 git restore

但 Pro 3.1 的 quota 還算可以, 總體來說我用它來幹粗活的

如果多次也修不好, 我試過用 pi.dev + Qwen3.6 27B(本地)也比它好

當然 Codex 是吊打 AG 的, quota 也不少, 只是我 Codex 也常用滿了, 才需要用 AG 及本地 LLM 分擔一下

我也不想用 JVM ，但 ElasticSearch 真的香，好像暫時還沒取代品？

雖然我還有在用 Python, 但 production 的東西我都轉向用 Go 了, 畢竟 compile time 能擋很多東西, strong type 讓 LLM 也能清楚理解數據結構

React 及 Python 的 project, 我都要用 strict type check 及 ruff 及 pyright 一類先檢查再讓 LLM 去宣告做完, 還真的能擋不少低級錯誤

@BingoXuan Nemotron Nano 還真的不太行, Ultra 出來了好像也不太有性價比, 550B 等級的中國模型比它強。

btw, MTP 在 Coding agent 上加速效果挺明顯的, 我想是算 diff 一類能搬字過紙的任務上猜得到就能過, Gemma 4 31B Q4 在 5090 我試過能跑到最高 90tps, 反而 Qwen 3.6 27B 我都沒仔細看過最高 tps

但真的要快的話, 把 Qwen 3.6 35B 灌下去, tokens 嘩啦嘩啦就跑一堆出來還算爽的, max tps 過 130, 簡單任務也算能用

@commoccoom 我單張 RTX5090, Q3.6 27B Q5_K_XL 用以上配置能跑 context 102400, 56tps

另外我還有兩張 RTX3090 的 NVLink 能跑 Gemma 4 31B Q8, F16 K/V, ctx 51200, 55-60tps, 但現在要買 3090 及它的 NVLink 應該不容易。

聽說有人在淘寶魔改了 V100 能插 PCIe 及多卡 NVLink, 但這種魔改的東西除非你對 inference 很有經驗, 否則不建議用。也有些人用舊款 AMD MI50 32GB 去組多卡, 但好像 llama.cpp 沒直接支援要用改版的, 也不太建議用。

RTX6000 Pro 的 96GB VRAM 及超大 bandwidth 肯定是單卡最強的民用產品

32GB 的新品好像還有 Intel Arc Pro B70, 比 RTX5090 便宜不少, 但這個 llama.cpp 的支援可能不完整, vllm 倒是有 Intel 自己的版本有維護能配 Qwen 3.5

@BingoXuan 我是 Codex 及 Antigravity 雙持的, 都是 USD20 等級的套餐, 但自從我本地有 Qwen 3.6 27B (Q5_K_XL Weights, Q8 K/V, MTP)後, 有一次我兩家的 agent 都跑到 debug 一半沒了 quota 很焦慮。

還好之前有練過用本地跑 VSCode Copilo 及 Claude Code, 拿 Qwen 3.6 27B 給我上還真的能把事情做好。

這時候我就深深感受到這東西會減少人們對 Subscriptions 及 API 的依賴, 很佛心但也會影響利潤吧。

@BingoXuan Gemma 4 這次很給力吧, reddit 上不少人都同意文字類答案比 Qwen 3.6 好, Qwen 3.6 是英語及中文很強, 但 Gemma 4 的廣東話及繁體字比 Qwen 3.6 強超多, Gemma 4 31B 在 agentic coding 用廣東話對答如流, Qwen 3.6 就會用簡體中文標準漢語回應, 也有一些 benchmark 說 Gemma 4 31B 比 Qwen3.6 27B 在 coding planing 更細密。

Qwen 3.6 是絶代的話就慘了, Google 不會放更好的模型出來, 畢竟 Qwen 還是很能打我也是 Gemma 4 及 Qwen 3.6 兩個模型都有在用。

@Livid 怪不得會選 26B A4B MoE, memory bandwidth 擺在那 TPS 是壓力, 反而我好奇的是 Qwen 3.6 35B A3B 的簡中應該也很強, 速度更快, 選用 Gemma 4 26B A4B 的選因是?

不過我記得第一個實作 Diffusion Language Model 的是這個 HKU 團隊, 那時他們家的 Sudoku 的解題特別強。
https://github.com/HKUNLP/DiffuLLaMA

玩過 DiffuLLaMA Demo 很有趣, Diffsuion 文字輸出是先把句子長度固定, 然後內容再走出來, 先畫靶再射箭的感覺, 不是 Autoregressive 的書寫次序, 但那時字(token)蹦出來後就不會再動。

這次 DiffusionGemma 更有趣的是內容還會在 render 過程中變動, 我倒期待 Llama-Server 的實作出來是如何的, 如果 Sudoku 強的話可能龍蝦一類 vision+computer use 的用途會有驚喜?

@coefu 我倒希望 Qwen 繼續開源跟 Gemma 一拼, Google 沒對手的話就不會放新模型了

正如以前用 RTX 5090 都沒有一個本地模型能 agentic coding, 大部分都倒在了第一個 failed tool call 上, 倒是 Qwen 3.5 27B 出來後才算有一個能用

對呀本來就 11 號重號, 原本是 6 號的

不就是把 Claude Code/Antigravity/Qwen 等等改成名人的名稱, 又是一個 "Hey I vibecoded a groundbreaking blah blah"的貼

現實很美好, 但用起來要先解決 Codex/AGY 能不能讓你的 program 包起來用的基本問題, 不然就引發 claude code -p 事件了