V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  GeruzoniAnsasu  ›  全部回复第 9 页 / 共 171 页
回复总数  3417
1 ... 5  6  7  8  9  10  11  12  13  14 ... 171  
有没有一种可能:模型训练的重点不是语言,而是 **知识**。

Transformer 架构天然能抹平语言差异,还记得 ATTENTION IS ALL YOU NEED 吗?只要中文语料存在大量知识这个客观事实存在,任何可预测的仍采用 GPT 架构的模型代际就一定会拿中文语料训练,也就一定能完美支持中文。就算 A\这家公司足够反华到上了一个 censorship 模型专门屏蔽中文输出,底层模型也是必须用全语种训练泛化能力的。i.e.「支持中文」
https://www.v2ex.com/t/1209737?p=1#r_17591843

亦有记录。 我这个秒封的行为是新号+本机 agent 模式。只问答都没事,让 agent 动手第一分钟就无了

现在用 claude 只敢淘宝魔法+古法结对编程了
还想再发散一点:

现代和下一代的 AGENT ,早已不依赖模型的数理逻辑事实了,它们依赖的是「智能涌现猜想」—— 也同时是 scaling law 描述的事:只要模型持续进化下去(规模、复杂度 ……),模型就能表现出越来越高级的智能。只要这个假设还未证伪,就不需要为模型开发专门数理工具(不再需要「以机器的视角设计工具」),训练模型掌握人类工程工具即可。

而 RAG 是上一代的东西——试图重建模型的底层数学模型并在特定层加入特定的 bias 。不是没用,而是没必要了,模型的泛化能力成长远高于人为干预,最终能把数值调优都吃掉。

人是不需要把文本资料和知识向量化储存的 => 所以 LLM 也不需要。
@WithoutSugarMiao 那正好请教一下:

请问你们对比过传统文本数据库+LLM 思考操作索引与直接用 RAG 嵌入两种方式的效果差异吗?我很好奇 RAG 方式在成本或者检索速度之类的方向有没有压倒性优势
RAG 当初浅尝辄止就发现了很多问题,我是感觉这东西完全不可能跟上下一代 agent 的演进速度。

RAG 最大的缺陷是它把原本已经很泛化的「知识」重新覆盖成了高频高音量的噪声,比如假如模型本来能完美学习一本书的所有内容,能用不同语言、不同逻辑重新讲给你,但 RAG embed 进去的话,有效信息会被大量剪裁,最终能吐给你的只有少量关键注意力点和原文文本组合。

而且 RAG 嵌入的信息是「单次」的,我不知道怎么专业地描述这个现象:它能嵌入「知识」,但不能嵌入「知识的知识」和「知识 of 知识的知识」 —— 假设用 RAG 把全国人名都嵌入了,它只能告诉你「王??」具体是「王 XX 」,但不能获得「王 XX 」有多少人(二次知识)与「王 XX 」族群数量可能与哪些它掌握的其它知识有关(三次知识)。

再加上 function calling 成熟后,显然用专家能力(传统 ES 和正则)去索引文本要比 RAG 简单高校得多,我是想不到 RAG 能玩出什么花。
5 月 19 日
回复了 graetdk 创建的主题 游戏 50$ 奖金, AI 坦克比赛,欢迎大家来玩
之前只是凑凑热闹,有奖金,那不得不来玩了。想问问 OP 坦克实例的运行时是怎么管理的,我看 prompt 说明好像没有能让我的实例存取数据的接口,策略要写死在代码里吗
5 月 17 日
回复了 Pig930 创建的主题 OpenAI 你们是怎么解决 CodeX 写代码过于难看的问题的
https://www.v2ex.com/t/1202715?p=1#r_17478888
https://www.v2ex.com/t/1207049?p=1#r_17548593

亦有记录。

我的建议是回归古法,给 codex 把伪代码和函数名写好,让它根据标记修改回正常的代码。放任 codex 自流它 tm 上下文又长 review 又困难,模型还傻逼,评价是给自己找罪受
5 月 17 日
回复了 HackerTerry 创建的主题 宽带症候群 家宽 DDNS 域名解析方案(续)
@HackerTerry 你自己都提到了 vaultwarden 也不够友好了 —— 所以方法很简单,要么恢复家人普通的使用习惯,不强求他们用 vpn 和密码管理器,要么尽可能帮配置好,告诉他们先点一下 wireguard 的快捷方式,我理解至少比我妈的手机照片塞满了「插 u 盘移一下照片」要简单。

然后另外的那个打洞的问题,IPv6 真的香,大陆移动网络应该哪都有,根本不需要特意打洞。必须走 v4 的线路(比如酒店 wifi 、港澳漫游没有 v6 这种情况)我现在的方案是 https://imgur.com/kEaGSlh v4 和 v6 都不依赖 tunnel 产品
5 月 17 日
回复了 HackerTerry 创建的主题 宽带症候群 家宽 DDNS 域名解析方案(续)
1. public 服务不要搭在家宽上
2. 租人家的服务器?流量被别人把控着你不膈应?
3. wireguard 开一下真的那么麻烦吗
4. 为什么不考虑 DDNS IPv6
5. 不要把备案(意味着公安要盯你)域名(意味着阿里/腾讯要盯你)翻墙协议(意味着运营商会盯你) 放到同一个链路里


如果我是你
1. 不用 FRP ,能 STUN 手动打洞就手动打洞
2. 手机只装 wireguard
3. vultwarden 建内网里,必须局域网或 wireguard 才能访问
4. 只 serve 在 ipv6 上
5. 域名给 CF 托管,用 CF 的 API 做 DDNS

不要备案,不要用国内域名提供商,不要用有特殊用途的 VPN 和反代方案。如果必须要服务器中转,**只用国内 VPS ,但是别绑域名**
5 月 14 日
回复了 lpf0309 创建的主题 职场话题 写代码一定要防御性编程
没啥意义,AI 连 copy fail 都能挖出来,你埋的 business fail 怕不是分分钟
要知道这两代人大多数都是独生子,根本就不知道如何与兄弟姐妹家庭相处。包括我,也不懂。在我观念里这种大家族的资源模式就是老大哺育全家,等弟妹成长起来各自独立了,各自下一代再互相照顾。

我看了很多多子家庭的倾诉,感觉都过成了好几个独生子女在一个屋檐下居住互相争抢资源的模式,这跟我认知中的上一辈的家族完全不一样。
巧了

一周前我发现刷了 openwrt 的 ax3000t 内网 moonlight 表现极差,UDP 性能跑不到 10M ,遂重刷 MTK 私有固件的版本。
然后这一折腾就是一周过去了,抱着顺手修 bug 的想法一路查上去,发现上游实现各种 bug ,还发现光猫的硬件适配也有 bug………………😂

这是它现在的性能
https://i.imgur.com/0FzEITd.png
5 月 11 日
回复了 weishao666 创建的主题 玄学 鬼神存在么,为什么有的事情无法解释?
对的对的,你的代码跑不了正是 bug 之神阻碍了你的认知
你都单干了,你自己为什么不在华强北?
> 欢迎大家用 ga 写点公众号文章或者软文吹 claude code 和 codex ,给自己挣点外快!


何意味,我写了你们会有推广费用?
我就说一个两个人协作都很痛苦的问题:

我们的 skill 里约束了 AI 写代码必须留下 execution plan 和需求变更记录文档。

这个文档的 文 件 名 有 版 本 号 。




想要让 AI 能顺利遵循 spec-driven 范式有一个对于软件工程来说不可能的前提 —— 你的项目必须高度解耦到每个维护者(每个 agent )都只需要负责自己的一小部分 code space 。这样多个 agent 在品名滚版本号的时候才不会撞到一起,或者进入 理解对方修复-追加自己兼容层-理解对方的兼容层 的恶性循环。
@yuankui

第一命令行不利于 diff ,AI 动不动同时改 5 个 10 个文件,命令行的 review 效率太低了,除非你说 AI master 不需要人类 review.
第二 GUI 的交互方式天然并行,你可以在看到 AI 工作过程的同时看其它代码或者 preview staging 、编辑配置、写文档,命令行基本要切窗口,很不跟手
第三需要古法手工修复的时候,复制粘贴要方便得多……


而且我很喜欢 vscode+copilot 的交互,最重要的一点是它同时暂存了 1) git 工作区改动 2) agent 在本次 session 的改动 3) agent 在本轮 prompt 后做出的改动,回滚的层级很灵活而且很直观,可以单行、单文件、单会话控制保留部分

对于工作流已经很固定的稳定项目可能感知不到…… 我还见过有人直接丢给在线 codex 跑,自己直接摸鱼等回来黑盒测试的
1 ... 5  6  7  8  9  10  11  12  13  14 ... 171  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   978 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 88ms · UTC 19:37 · PVG 03:37 · LAX 12:37 · JFK 15:37
♥ Do have faith in what you're doing.