跟 AI 一起读了下,暂时得出来的结论如下:
它可能本质上是把“高质量小模型 + 分类/排序 + constrained output + calibration”包装成了一个非常漂亮的 Decision Model 产品。
跟 AI 一起读了下,暂时得出来的结论如下:
它可能本质上是把“高质量小模型 + 分类/排序 + constrained output + calibration”包装成了一个非常漂亮的 Decision Model 产品。
1
maocat 3h 44m ago
|
2
AdminNB 3h 38m ago
大概看了下,只做选择和判断,看起来比较适合用来做一些审核类的场景,跟现有模型比,主要还是速度快吧
|
4
seakingii 3h 17m ago
小模型再快也没它这个快,目前这是 100 ms 级别的
|
5
seakingii 3h 15m ago
现在有一个人,根据这个原理,特化 qwen 2 这个模型,达到 JEV 的效果. 你可以找一下.
按我的了解是,一个革命性的思路,但没有什么技术门槛 |
6
dassh 3h 12m ago
看了下,相当于文字版本的 yolo world ,感觉确实营销过头了,你一个小模型,当然比 gpt 那些快
有人用 qwen 0.6b 模拟了一个 https://github.com/TheoLeeCJ/openjev |
7
muyi 3h 0m ago
早上看到了这个开源复刻 https://github.com/TianyuCodings/NanoJev
|
8
sillydaddy 2h 51m ago via Android
快思考的直觉脑~这个思路没问题吧。
|
9
mkt 2h 49m ago
用户:这怎么算的?
jev:你就说快不快吧 |
10
zhmouV2 2h 33m ago
低成本的决策模型,但是结果对不对就不知道了
|
11
cobiao 2h 26m ago
"System One""Typesafe""noul""RLCD"有点过度包装了,明明就是用于垂直领域的小模型. 但是,针对垂直领域的便宜又快速的小模型,这个方向的确挺看好的,国内估计很快就会有同类产品跟上.前阵子好像国内面壁和讯飞都出了很小的通用 agent,好像是 4b,没什么水花,还是国外会炒作呀.
上个月国外出了个 45M 的 mini 模型 needle2,专门用于智能家居生成结构化输出的,直接可以在浏览器里运行,速度很快,可以实时交互,我还做了一个简单 demo: https://github.com/whitefoxx/line-room 可以玩下. 前几天,needle3 也出来了,更小了,只有 37M,官网可以玩下: https://cactuscompute.com/needle |
12
prosgtsr 2h 20m ago
反正我不信
|
13
ZZITE 2h 0m ago
适合在代码程序中结合使用,能解决某些只想要借助 AI 来根据复杂规则输出判断,并输出结构化结果,交给程序继续执行的场景。
|
16
luzemin 1h 36m ago
主要是:准确、快速、便宜
三者任意一项不满足,就失去价值了 |
18
andyskaura 1h 30m ago
@mkt 想到了以前的 fastjson
|
19
seakingii 1h 27m ago
用小模型来模拟 JEV,可以接近效果,但目前有 效率和准确度的 难题
|
20
seakingii 1h 22m ago
不过这个新的架构的难度应该不高,至少比 DS 搞出 COT 的那个简单多. 开源代替应该很快可用
|
22
theohateonion 21 mins ago
加了后训练的数据集,模型本身肯定比裸开源模型要好的。即使基座是一个很小参数的开源模型,只要业务上有价值,我感觉很多公司都会跟进然后训练自己的模型然后进一步提升效率。
如果每一个结果真的到了毫秒级别的响应了,那就是另一个 level 的应用了。如果考虑准确度不敢接入业务系统的话,在内部工具里面用用肯定没问题的。 |