• 2026年9月2
  • 登录
  • 联系我们
  • 2026年9月2
  • 登录
  • 联系我们

什么?一个人就能训练大模型,指标还能硬刚K3V4? - 星空平台导航

  • 2026-10-23
  • 3条评论

训练一个拥有5000亿参数的大规模语言模型,究竟需要多少人力?

根据AI领域的常规认知,这通常需要数十人,而大型科技公司甚至会投入数百人。

然而,一家名为Mirendil的硅谷初创企业,将这一数字降到了最低——仅需一人。

就在不久前,Mirendil在其官网上发布了一篇文章,标题颇为引人注目:《无需预训练团队的大规模预训练》。

文章标题下方列出了三个关键数据:

一名研究员、三个半月时间、成本控制在1000万美元以内。

这笔费用涵盖了Agent的token消耗、数据处理以及所有研究实验的开支。凭借这些投入,他们确实成功训练出了一个千亿参数的模型:Mirendil-Base,一个参数规模在1000亿到5000亿之间的编码专用基座模型。

Mirendil在文章中表示,新模型超过99%的代码并非由人类编写,而是由Agent完成。

人类研究员只需负责确定方向、做出决策,并在关键节点进行干预。编写代码、运行实验、排查错误等具体工作,全部交由Agent处理。

在Mirendil的测试中,新模型的部分性能指标已经接近Kimi K3、GLM-5.3、DeepSeek-V4等主流一线模型。

“单人手搓基模”的时代,真的即将来临……吗?

01

根据官方说法,Mirendil-Base是Mirendil系列模型的首发产品,定位为编码专用基座模型,目标用户是前沿AI实验室内部的研究员和工程师。

为了验证一个人是否真的能独立完成模型训练,Mirendil设置了诸多严苛条件。例如,不能使用现成的预训练框架,也不能继承已有代码。

研究员和Agent从零开始,在100多天的时间里搭建了一切——训练基础设施、模型架构、训练算法、数据管道,全部自行编写,仅在PyTorch、JAX等通用库的基础上,参考了一些热门开源项目作为模板。

当然,这里的“自行”,通常指的是Agent。

研究员主要负责决定尝试什么、信任什么,并在必要时进行干预。而编写代码、运行实验、诊断报错等具体操作,基本都由Agent自主完成。

在数据方面,Mirendil全部使用公开数据,例如GitHub上的开源代码、公开网页、公开数据集等。公司强调,训练过程中未购买任何一行数据,未进行蒸馏,也未使用合成数据。

此外,Mirendil试图通过改进设计来提升效率。公告称:“我们通过改进的架构、数据混合的高级调优,以及其他数据层面的改进,再加上kernel优化,获得了显著的效率提升。”

最终成果是Mirendil-Base,参数规模为1000亿至5000亿。

一个人训练出的千亿参数模型,究竟达到了什么水平?

Mirendil选取了五款模型进行对比,分别是Kimi K3、GLM-5.3、Nemotron-550B-Base、DeepSeek-V4-Pro-Base、Inkling,它们均为MoE架构的大参数模型。

在新代码仓库的交叉熵测试(模型猜测代码的写法,分数越低表示猜测越准)中,各款模型的比拼结果如下:

Kimi K3排名第一,得分为0.193;Mirendil-Base排名第二,得分为0.222;随后依次是GLM-5.3、DeepSeek-V4、Nemotron。

换句话说,在部分编码维度上,由一个人和Agent组队训练出的预训练模型,已经能够与头部大厂的成品模型一较高下。

不过,必须指出的是,通常情况下,基座模型在交叉熵测试中的表现优于后训练模型。Mirendil-Base作为基座模型,其分数反而高于经过后训练的Kimi-K3,这表明Kimi-K3的实际实力比表面分数所显示的更加强大,Mirendil-Base与它的差距实际上比看起来更大。

根据官方介绍,Mirendil-Base之上还有两个更高档位:Large版本参数规模在5000亿到2万亿之间,XL版本则直接达到2万亿到10万亿。

目前,Large版本已经训练了80%,XL版本刚刚起步,仅完成19%,但其分数已接近Large版本当前的成绩。

这意味着,在资金和Agent的助力下,一个人训练万亿参数模型并非遥不可及——这是许多AI大厂都尚未触及的门槛。

02

千亿乃至万亿参数大模型的预训练,极其耗费资金和时间,并且需要大量人力投入。

在数百名研究员中,一部分人研究模型架构和scaling方法;一部分人负责数万亿token数据的清洗与配比;还有一部分人则守着几千张甚至几十万张算力卡,确保训练过程不中断。

AI大厂能够汇聚足够多的人才,但资金和算力成本的压力依然巨大。

整个行业一直在探索降本增效的方法,核心思路就是一条:让AI来训练AI。

例如,Anthropic已经在这条路上走了很远。

该公司此前披露,今年5月,其代码库中超过80%的合并代码是由Claude编写的。

谷歌也在进行类似的尝试:其AI编程智能体AlphaEvolve已被用于优化数据中心调度、芯片设计和AI训练流程。

但“AI训练AI”这条路,目前只有大厂才能玩得转。

对于科学家、研究员、小团队等而言,想要自己训练一个模型,以前几乎是不可能的。

而Mirendil-Base证明了,在特定条件下,一个人也可以“手搓”出模型。

Mirendil在官网文章中表示,直到不久前,预训练一个有竞争力模型的瓶颈还是人力:需要一支多年才能组建起来的专家团队。

如今,这一局面正在发生变化。

过去只有大型研究机构才能做到的事情,现在一名研究员就可以完成。当Agent承担了大部分动手工作后,瓶颈转移到了算力、数据,以及指挥Agent的那个人的判断力上。

“人人都能训练模型”,蕴含着巨大的想象空间。

以前,大多数人和公司如果需要专属模型,往往选择租用一个通用模型,再在边缘层面进行适配。

现在,一支芯片设计团队、一个机器人实验室,或是一家医院,都可以用自己的数据、针对自己的问题训练一个模型。基座模型以及围绕它们构建的系统,将不再是只有少数大厂才能制造的东西,而会变得更加普及。

另一方面,过去需要一个大型团队才能启动的AI项目,现在可以从一个小团队,甚至一个人开始起步;而随着算力越来越便宜、越来越强大,更多人将能够尝试这些项目。“一人公司”或“超级个体”,有望成为现实。

人们的工作方式也将随之改变:随着越来越多的工作被交给Agent,人类的日常工作将越来越不像“亲手做事情”,而更像“带领一个小型实验室”:设定研究方向、设计值得运行的实验、判断哪些想法值得继续推进。

Mirendil描绘了更加炫目的前景:下一个模型将部分由Mirendil自己的模型来构建,而每一个在构建AI方面变得更强的模型,都会让下一个模型的构建更便宜、更快速。

“我们认为,还没有达到完全自主的RSI,但我们已比以往更接近了。”公司表示。

此外,公司已经开始对Mirendil-Base进行后训练。Mirendil-Base-Large以及达到前沿水平的Mirendil-Base-XL仍在训练中。

03

Mirendil的背后,是两位Anthropic前员工:Behnam Neyshabur和Harsh Mehta。

Neyshabur是80后,出生于伊朗,在那里读大学。2011年他去了美国,在丰田工业大学芝加哥分校获得博士学位。毕业后,他在谷歌DeepMind工作了5年,2024年底加入Anthropic,领导了Discovery团队,专门研究如何让AI像科学家一样参与研发。

Mehta是印度裔,毕业于印度理工学院古瓦哈提分校,在DeepMind时与Neyshabur是同事。加入Anthropic后,Mehta搭建了Anthropic内部自动化AI研究平台的第一个版本。

2025年12月,两人先后离职,成立了Mirendil,公司定位是让AI来帮助科学家造出他们自己的AI,而不只是直接用AI辅助科学。

换句话说,他们希望让科研团队能够自己训练、迭代专属AI模型,不再依赖大厂的通用模型。其背后的技术路线,正是近期AI圈内热议的RSI。

今年6月,Mirendil官宣了2亿美元种子轮融资,投后估值10亿美元。投资方包括a16z、凯鹏华盈、英伟达等。

团队目前约有20人,成员均来自Anthropic、xAI、Google DeepMind、OpenAI等机构的研究员和工程师,在旧金山市中心办公。

Mirendil-Base的亮相,标志着公司跨过了第一个里程碑。

但话说回来,“单人训练千亿参数模型”听起来美好,门槛实际上并没有降低多少。

1000万美元的成本,对大厂来说不算什么,刚刚拿到融资的Mirendil也还付得起。但对于绝大多数个人、小团队而言,这依然是天文数字。

更不用说,能指挥Agent完成如此庞大的工程,并非随便一个工程师就能上手。Mirendil的人才质量之高、AI项目经验之丰富,在整个硅谷都处于第一梯队。

“一人手搓大模型”的时代确实在靠近,但离普通人还很远。

Mirendil-Base 的发布,是这条漫长道路上的第一块路标。至于它能否真的把大模型的门槛降下来,还得看后续更大规模模型的实际表现,以及这套方法论能否复制到其他人身上。

本文来自微信公众号“字母AI”,作者:彦飞,编辑:王靖,36氪经授权发布。

  • 足球
  • 足球
  • 篮球
  • 排球
  • 电子竞技
赛事前瞻:欧冠淘汰赛分析
  • 2026年9月1
  • 3条评论
篮球赛季回顾与数据盘点
  • 2026年9月1
  • 3条评论
电子竞技最新动态一览
  • 2026年9月1
  • 3条评论
运动恢复:科学训练小贴士
  • 2026年9月1
  • 3条评论