• 请不要在回答技术问题时复制粘贴 AI 生成的内容
junwind
V2EX  ›  程序员

搞 Ai 大模型的,都是 Python 首选吗?

  •  
  •   junwind · Feb 10, 2025 · 7929 views
    This topic created in 636 days ago, the information mentioned may be changed or developed.

    如题:搞 Ai 的,编程语言,python 是首选吗?

    37 replies  •  2025-02-12 16:13:33 +08:00
    ModiKa2022
    ModiKa2022
    Feb 10, 2025
    1
    python 的库最丰富, 时间成本最低
    passive
    passive
    Feb 10, 2025 via Android
    2
    能自动求导的语言就这么几个
    fatigue
    fatigue
    Feb 10, 2025
    3
    是的
    thinszx
    thinszx
    Feb 10, 2025
    4
    如果不是做底层编译的,python 甚至已经不能算首选了,而是唯一选择
    TimePPT
    TimePPT
    Feb 10, 2025
    5
    推理阶段的应用层工程化都无所谓,因为部署完基本都是微服务/api 调用
    模型训练微调用 python 多些,主要 PyTorch / Transformers 太方便了
    底层 infra 各家都不太一样,我见过某小虎家有用 c++写的
    NoOneNoBody
    NoOneNoBody
    Feb 10, 2025
    6
    不断调参的肯定是脚本语言,不然调一次参数编译一次?
    至于什么脚本,python 大数据相关包最多,所以是首选
    me1onsoda
    me1onsoda
    Feb 10, 2025
    7
    应用层面吗? langchain 有 js 版本
    Braisdom
    Braisdom
    Feb 10, 2025
    8
    我的项目后台全部是 Python 的,https://www.agiquery.com
    gzlock
    gzlock
    Feb 10, 2025
    9
    llama.cpp
    c++的
    mumbler
    mumbler
    Feb 11, 2025
    10
    反正都是 AI 写代码,用什么语言无所谓,AI 喜欢什么代码密度比较大的语言
    LnTrx
    LnTrx
    Feb 11, 2025
    11
    去看一下机器学习框架的文档就知道了,Python 是绝对主流,有特定需要才会用其它语言
    mykaii
    mykaii
    Feb 11, 2025
    12
    @Braisdom 老哥你这个文档用的是什么框架
    yushi17
    yushi17
    Feb 11, 2025
    13
    以我们这些搞大模型研究的人的智商,也就能学明白 python 了
    lizhisty
    lizhisty
    Feb 11, 2025
    14
    @yushi17 你是造航母的?
    lizhisty
    lizhisty
    Feb 11, 2025
    15
    @lizhisty 不好意思,看错了
    wnpllrzodiac
    wnpllrzodiac
    Feb 11, 2025 via Android
    16
    python 门槛低。要是 cpp ,要劝退一批人。调调参数的都叫 深度学习开发专家。能公式推导的估计不多。
    dayeye2006199
    dayeye2006199
    Feb 11, 2025 via Android
    17
    Python 和 c++
    其他都是整活。上面两个是业界标准,其他连二等公民都算不上
    hellojay
    hellojay
    Feb 11, 2025
    18
    @lizhisty 哈哈哈哈
    guanhui07
    guanhui07
    Feb 11, 2025
    19
    是的 门槛低
    ShadowPower
    ShadowPower
    Feb 11, 2025
    20
    训练/提供在线 API 是,在实际产品中落地不是
    mightybruce
    mightybruce
    Feb 11, 2025
    21
    必须是 Python, 先看看其他语言的库都是把 python 库转译一下,根本没有什么创新,这两年,光大模型的 python agent, 工作流都不知道迭代了多少轮了,还看什么其他语言,看其他实现只会阻碍灵感。

    训练和推理计算引擎的底层如 pytorch, tensorflow 都是 c++, 但是那也不是做业务研究干的事情, 最出名的比如 llama.cpp 也是。

    搞大模型都是最聪明的一些人,写代码对于他们小意思了,v2ex 上基本都没几个人能进入的。DeepSeek 技术团队中这些信奥赛金牌得主或国家级竞赛选手,有几个不是从初高中就接触编程的。
    mightybruce
    mightybruce
    Feb 11, 2025
    22
    上面我把 大模型应用开发, 大模型微调和基座混在一起了谈了,

    普通人使用 Python 搞搞大模型应用开发,现在这个技术栈迭代还在不断变化,最近都是知识图谱配合大模型,

    咱们智商不够上 C9 的就不想什么大模型基座了。
    565656
    565656
    Feb 11, 2025
    23
    认识一个某 qs 前几的 ai 博士,不知道自己电脑的内存+存储多大
    qzydustin
    qzydustin
    Feb 11, 2025
    24
    @565656 大概率是数学背景的,做理论方向不关心电脑配置的很多。计算机科学家和电脑发烧友不一样
    mingtdlb
    mingtdlb
    Feb 11, 2025
    25
    @565656 虽然有点夸张,但你这是典型的计算机行业的人都会修电脑。。。
    kepenj
    kepenj
    Feb 11, 2025
    26
    这问题就跟为啥市面上外挂大部分都是易语言写出来的一样,真正研究这玩意的,语言只是工具。大家都喜欢使用趁手的工具。
    hushuguo
    hushuguo
    Feb 11, 2025
    27
    是
    bugmaker233
    bugmaker233
    Feb 11, 2025
    28
    @565656 很真实
    iorilu
    iorilu
    Feb 11, 2025
    29
    开发模型尝试各种配置, 数据处理, 训练肯定都是 python 阿

    唯一可能不只需要 python 就是线上部署优化, 可能把部分代码用 c++或 rust 重写, 但那是很后面的事, 绝大多数情况根本不会到这一步
    hwdq0012
    hwdq0012
    Feb 11, 2025
    30
    torch c++版本叫 libtorch 用 c++也能训练,也能推理,只是一般人用 pytorch 训练, 部署时用其他(毕竟 python 写的程序性能太差了,部署后一般是其他语言了)
    mertas
    mertas
    Feb 11, 2025
    31
    确实是,中小学教育都也开始普及了
    hytex
    hytex
    Feb 11, 2025
    32
    @565656 同……之前问某软工研究生不知道硬盘是什么
    yolee599
    yolee599
    Feb 11, 2025
    33
    我做嵌入式的小模型,都是用 python 训练好通用模型,再量化成对应平台的模型,这时候就可以用 c/c++ 执行了。
    icanfork
    icanfork
    Feb 11, 2025
    34
    @565656 难怪我过年回家不是被叫去修电脑,就是去调试电视机系统,这刻板印象
    Newbee24
    Newbee24
    Feb 12, 2025
    35
    @lizhisty #15 hhh
    thorneLiu
    thorneLiu
    Feb 12, 2025 via Android
    36
    我们有一部分推理是 cpp cuda 手写的
    joetao123
    joetao123
    Feb 12, 2025
    37
    如果是开发大模型应用,并非只有 python 可选,我用 java + spring ai 做了一个开源 web 开发框架: https://xryder.cn
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3796 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 109ms · UTC 01:39 · PVG 09:39 · LAX 17:39 · JFK 20:39
    ♥ Do have faith in what you're doing.