搞 Ai 大模型的，都是 Python 首选吗？

python 的库最丰富, 时间成本最低

能自动求导的语言就这么几个

是的

如果不是做底层编译的，python 甚至已经不能算首选了，而是唯一选择

推理阶段的应用层工程化都无所谓，因为部署完基本都是微服务/api 调用
模型训练微调用 python 多些，主要 PyTorch / Transformers 太方便了
底层 infra 各家都不太一样，我见过某小虎家有用 c++写的

不断调参的肯定是脚本语言，不然调一次参数编译一次？
至于什么脚本，python 大数据相关包最多，所以是首选

应用层面吗？ langchain 有 js 版本

我的项目后台全部是 Python 的，https://www.agiquery.com

llama.cpp
c++的

反正都是 AI 写代码,用什么语言无所谓,AI 喜欢什么代码密度比较大的语言

去看一下机器学习框架的文档就知道了，Python 是绝对主流，有特定需要才会用其它语言

@Braisdom 老哥你这个文档用的是什么框架

以我们这些搞大模型研究的人的智商，也就能学明白 python 了

@yushi17 你是造航母的？

@lizhisty 不好意思，看错了

python 门槛低。要是 cpp ，要劝退一批人。调调参数的都叫 深度学习开发专家。能公式推导的估计不多。

Python 和 c++
其他都是整活。上面两个是业界标准，其他连二等公民都算不上

@lizhisty 哈哈哈哈

是的 门槛低

训练/提供在线 API 是，在实际产品中落地不是

必须是 Python, 先看看其他语言的库都是把 python 库转译一下，根本没有什么创新，这两年，光大模型的 python agent, 工作流都不知道迭代了多少轮了，还看什么其他语言，看其他实现只会阻碍灵感。

训练和推理计算引擎的底层如 pytorch, tensorflow 都是 c++, 但是那也不是做业务研究干的事情， 最出名的比如 llama.cpp 也是。

搞大模型都是最聪明的一些人，写代码对于他们小意思了，v2ex 上基本都没几个人能进入的。DeepSeek 技术团队中这些信奥赛金牌得主或国家级竞赛选手，有几个不是从初高中就接触编程的。

上面我把 大模型应用开发， 大模型微调和基座混在一起了谈了，

普通人使用 Python 搞搞大模型应用开发，现在这个技术栈迭代还在不断变化，最近都是知识图谱配合大模型，

咱们智商不够上 C9 的就不想什么大模型基座了。

认识一个某 qs 前几的 ai 博士，不知道自己电脑的内存+存储多大

@565656 大概率是数学背景的，做理论方向不关心电脑配置的很多。计算机科学家和电脑发烧友不一样

@565656 虽然有点夸张，但你这是典型的计算机行业的人都会修电脑。。。

这问题就跟为啥市面上外挂大部分都是易语言写出来的一样，真正研究这玩意的，语言只是工具。大家都喜欢使用趁手的工具。

是

@565656 很真实

开发模型尝试各种配置, 数据处理, 训练肯定都是 python 阿

唯一可能不只需要 python 就是线上部署优化, 可能把部分代码用 c++或 rust 重写, 但那是很后面的事, 绝大多数情况根本不会到这一步

torch c++版本叫 libtorch 用 c++也能训练，也能推理，只是一般人用 pytorch 训练， 部署时用其他（毕竟 python 写的程序性能太差了，部署后一般是其他语言了）

确实是，中小学教育都也开始普及了

@565656 同……之前问某软工研究生不知道硬盘是什么

我做嵌入式的小模型，都是用 python 训练好通用模型，再量化成对应平台的模型，这时候就可以用 c/c++ 执行了。

@565656 难怪我过年回家不是被叫去修电脑，就是去调试电视机系统，这刻板印象

@lizhisty #15 hhh

我们有一部分推理是 cpp cuda 手写的

如果是开发大模型应用，并非只有 python 可选，我用 java + spring ai 做了一个开源 web 开发框架： https://xryder.cn