用 OpenCode 的时候,第一次发现 Intel NPU 在干活了

用 OpenCode 的时候,第一次发现 Intel NPU 在干活了

|
whattimeJul 5 via iPhone
1
一直以为这个没吊用
|
|
cyp0633Jul 5
3
不止,在 Windows 控制中心里打开工作室效果,会发现 NPU 又动了
|
|
fs418082760Jul 5
5
用剪映的时候 会动一下,但是目前的生态跟 GPU 没法比
|
|
enihcamJul 5 via Android
6
opencode 是个皮儿,咋会用到 npu ?
|
|
mortalJul 5 via iPhone
8
自己写了一个跑 llm 拿来当本地翻译,速度比较难看
|
|
stormscloudyJul 6
11
用微软的 foundrylocal 能跑点小模型,qwen2.5b 啥的,但速度也挺慢的
|
|
yyt6801Jul 6
12
ultra 5 本地跑 lamma.cpp 时,怎么改都无法用 NPU 跑起来,一度怀疑 npu 驱动或 oneAPI 的问题。 后来自带相机背景虚化发现确实会有占用
|
|
13
@mortal @stormscloudy @yyt6801 按目前这些消费者级别的计算机,NPU 的性能优势应该在于功耗和延迟,很适合进行这种低算力的任务,处理很快且能耗不高,否则本身对 LLM 本地推理应该用途没那么大。
|