ProxyXAI
V2EX  ›  OpenAI

体验 llama3 系列的速度吧

  •  
  •   ProxyXAI ·
    proxyxai · Apr 25, 2024 · 4379 views
    This topic created in 928 days ago, the information mentioned may be changed or developed.
    Supplement 1  ·  Apr 25, 2024
    抱歉流量超级大.... 不得已限流 3 次/分钟
    Supplement 2  ·  Apr 25, 2024
    10 次/分钟
    Supplement 3  ·  Apr 26, 2024
    需要 API 的, 请联系 wx: proxyxai
    Supplement 4  ·  Apr 26, 2024
    支持无上限多个 keys 轮询, 理论请求无上限, 取决于带宽瓶颈 和 keys 数量
    29 replies  •  2024-04-25 21:56:46 +08:00
    bearqq
    bearqq
    Apr 25, 2024❤️1
    1
    点之前:本来一脸不屑
    点之后:卧槽?????????
    junan
    junan
    Apr 25, 2024
    2
    试了几次后和#1 一样的反应
    hooych
    hooych
    Apr 25, 2024 via iPhone
    3
    速度确实嘎嘎快,GPT 是便秘,这个有种一泻千里的畅快感
    qinfengge
    qinfengge
    Apr 25, 2024
    4
    G 了,一直请稍后再试
    xier9213
    xier9213
    Apr 25, 2024
    5
    速度确实快,就是太不稳定了
    zsxzy
    zsxzy
    Apr 25, 2024
    6
    用什么 gpu 跑的, 我用笔记本的 3060 6G, 好慢 😆
    Goghho
    Goghho
    Apr 25, 2024 via iPhone
    7
    @zsxzy 这么快感觉就是 groq 吧
    hebwjb
    hebwjb
    Apr 25, 2024
    8
    挂了
    djangovcps
    djangovcps
    Apr 25, 2024
    9
    fredweili
    fredweili
    Apr 25, 2024
    10
    8b 的本地跑,效果已经不错了
    nwg
    nwg
    Apr 25, 2024
    11
    我擦 这么快
    itskingname
    itskingname
    Apr 25, 2024
    12
    用 groq ,速度可以达到 700Token/s ,已经没有必要使用 Stream 模式了。
    maolon
    maolon
    Apr 25, 2024 via Android
    13
    是 groq 快不是 llama3 快吧...用其他方式 host 速度跟其他模型差不多
    param
    param
    Apr 25, 2024 via Android
    14
    @hooych gpt 用最低配的 ada 一样很快
    lizhisty
    lizhisty
    Apr 25, 2024
    15
    怎么挂了啊
    coolair
    coolair
    Apr 25, 2024
    16
    请稍后再试!
    coderluan
    coderluan
    Apr 25, 2024
    17
    你们说的快不是瞬间就输出 “请稍后再试” 吧😀😀😀
    ktqFDx9m2Bvfq3y4
    ktqFDx9m2Bvfq3y4
    Apr 25, 2024
    18
    没有背后的总算力就说快就是流氓,要我说我还能说我的 GPT4 上午使用时相当快,又聪明又快,比 3.5 还快。那明显是因为那时用量低,算力足啊。
    hooych
    hooych
    Apr 25, 2024
    19
    @hebwjb
    @djangovcps
    @lizhisty
    @coolair
    @coderluan 左下角切换模型
    huzhizhao
    huzhizhao
    Apr 25, 2024
    20
    请稍后再试!
    hooych
    hooych
    Apr 25, 2024
    21
    真的崩了,笑 cry
    feiniu
    feiniu
    Apr 25, 2024
    22
    崩了
    abchehehe32
    abchehehe32
    Apr 25, 2024
    23
    速度是真的可以,马上就告诉我“请稍后再试!” (手动狗头)
    HomeZane
    HomeZane
    Apr 25, 2024
    24
    请稍候再试的速度贼快
    luzemin
    luzemin
    Apr 25, 2024
    25
    回复的非常快,就是回复内容比较固定:
    请稍后再试!
    ProxyXAI
    ProxyXAI
    OP
    Apr 25, 2024
    26
    抱歉流量超级大.... 不得已限流
    ihainan
    ihainan
    Apr 25, 2024
    27
    试了一下,的确好快……
    dobelee
    dobelee
    Apr 25, 2024
    28
    速度确实快,瞬间回答 请稍后再试!
    deorth
    deorth
    Apr 25, 2024 via Android
    29
    好弱智啊。。。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   522 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 62ms · UTC 20:28 · PVG 04:28 · LAX 12:28 · JFK 15:28
    ♥ Do have faith in what you're doing.