Home Sign Up Sign In
treblex
V2EX  ›  OpenAI

开源的大模型看文档性能要求都挺高的 ，所以提供的是炼丹炉，还是练好的模型，难道运行起来就要那么高的性能吗？

  •   
  •   treblex · Nov 8, 2023 · 964 views
    This topic created in 997 days ago, the information mentioned may be changed or developed.
  • 炼丹炉
  • 模型
  • 开源
  • 性能
    3 replies
    treblex
        1
    treblex  
    OP
       Nov 8, 2023
    好像也都需要 cuda ，没英伟达显卡
    me221
        2
    me221  
       Nov 8, 2023
    都是提供训练好的模型
    me221
        3
    me221  
       Nov 8, 2023   ❤️ 1
    小参数模型用 3090 ，4090 也能跑推理，训练够呛
    65B 之类的大参数模型就只能用 A100 这种专业卡了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2629 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 01:36 · PVG 09:36 · LAX 18:36 · JFK 21:36
    ♥ Do have faith in what you're doing.