如果想在 V2EX 获得更好的推广效果,欢迎了解 PRO 会员机制:
https://www.v2ex.com/pro/about

如果你经常使用铜币置顶主题,持有 V2EX Solana Token 会在每日签到时获得额外铜币:
https://www.v2ex.com/solana
tianmenshan
V2EX  ›  推广

[AIask]上线新模型 mercury-3,以扩散生成推理方式加速模型响应速度

  •  
  •   tianmenshan · 5h 31m ago · 89 views

    mercury-3,这是一款面向重视响应速度的应用场景的扩散式语言模型。与逐个词元生成文本的常见模型不同,扩散模型先生成答案的大致草稿,再经过多轮迭代不断修改,因此能够一次生成多个词语。据称该模型在英伟达显卡上的吞吐量为每秒1068 个词元,相比之下,Claude Haiku 5.5 约为240 个,GPT-6 Luna 约为130 个。

    mercury-3,重点面向人工智能代理、搜索、客服、辅导等应用推广该模型,因为这些场景中的多次交互会让细小延迟不断累积。

    请先注册: https://aiask.me/

    开通方法:API 密钥 -> 创建密钥 -> 分组选择 组合,再选“默认”分组
    默认分组 API 价格查看: https://aiask.me/model-plaza

    mercury-3

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2995 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 97ms · UTC 11:57 · PVG 19:57 · LAX 03:57 · JFK 06:57
    ♥ Do have faith in what you're doing.