全球范围内的那些科技领域的巨头企业, 现在还在投入非常大量的资金去进行人工智能计算能力的堆叠工作。但是, 中国国内的那些大模型企业, 它们却把关注点转向了另外一个不同的方向方面。它们是打算通过消耗更少的芯片数量, 来创造出更多数量的智能效果出来。
MiniMax这家公司的创始人叫闫俊杰的人, 他在最近接受的一个访谈节目里面直接地说出了这句话。他的那个核心目标意思就是要让每一个普通人都能够用得起世界上最前沿的人工智能技术产品。
算力约束塑造中国研发路径
美国的人工智能生态正在构建一个由规模巨大的资本来支撑的封闭体系, 而中国则走向了一条以效率作为驱动力的协作路线。闫俊杰表示, 算力的约束客观上塑造了中国的企业的研发方式, 资源条件不一样, 技术路径必然就会不一样。
MiniMax在Transformer这类架构上面, 还有后训练的基础设施里面, 采用了差异化的设计方式。它的想法是从设计模型的那一个开始的时候, 就考虑了多芯片适配的问题。它没有把自己绑定到某一个单一的硬件上去。这样做的好处是能够为后面灵活地部署留下非常充分的空间。
混合架构减少无效计算
DeepSeek这家公司使用了叫做MoE混合专家架构的这种技术, 目的是把每一个Token在真正参与计算的时候所需要调用的参数量给降下来, 而月之暗面这家公司则是去优化自己的注意力机制以及稀疏专家架构, 这两条路看起来虽然是不一样的, 但是最终想要达到的目标却是一样的, 也就是说都要去减少那些没有必要的冗余计算工作, 从而能够让本来就不多的有限算力更多地被用在提升模型能力这方面去。
闫俊杰把研发原则总结成两件事, 一个是简化架构, 另一个是持续投入基建。后者的见效速度在短期来看, 是不如频繁发布产品来得快的。但是它直接决定了企业是不是能够长期坚持扩大研发的规模。
低成本推理释放后训练空间
苏格兰抵押基金的投资经理劳伦斯·伯恩茲用高尔夫球来打一个比方。他说, 练习用的高尔夫球如果越便宜, 那么在同样的预算条件下, 练习的次数就会变得越多。这个道理放在模型上也是一样的。当推理的成本下降的时候, 就意味着可以使用相同的资源去开展更多的强化学习过程以及数据合成工作。
MiniMax这个品牌在2024年的2月份发布了Forge这个框架, 其专门用来进行智能体强化学习的训练工作。在M2.5这个项目的开发期间, 接入了多种智能体脚手架以及运行环境, 闫俊杰说未来有望建成全球规模最大的后训练系统。
智能体催生海量推理需求
在过去那段日子里, 用户提一句问话, 那边就回一句话, 现在是另一种情形了, 智能体会把大的目标拆开, 会去调用各种工具, 也会去检索信息, 处理那些复杂的任务的时候, 会牵涉到几十次, 甚至上百次的模型调用。
闫俊杰这个人觉得, 往后一个阶段的前沿领域在于, 让模型自己来制定目标，并且自己去验证执行的结果。
多智能体协作这件事, 会让推理的量呈指数级往上涨了。低推理成本这一点, 已经不算是仅仅为了省一点钱了。它变成了决定整个Agent系统能不能大规模落地下去的关键瓶颈。
多模态走向统一系统
目前, MiniMax将模型划分为M系列语言模型与多模态扩展线。闫俊杰称，公司在创立之初就同步积累不同的模态技术。未来的目标是把这一切整合为一个统一系统。
眼下, 视频模型虽然能够生成影像片段, 但在理解创作指令这方面表现不佳, 而且也很難像剪辑师那样, 根据修改反馈来调整内容。假如能够把语言模型所具备的理解与规划能力, 同视频生成的能力结合起来, 人工智能在广告制作、影视创作等需要完整流程的项目中, 或许有望承担起更多工作。
开源成为商业催化剂
在MiniMax H3正式发布之前, 距离那次发布还有大约两周的时间, 市场上就突然出现了一共约300个基于该模型建立的开放衍生项目。
与此同时, DeepSeek、智谱、月之暗面以及阿里等企业也都开始采取允许公开使用部分内部信息的策略, 这一做法成功吸引了很多外部开发者主动参与进来, 协助进行软件部署、代码优化调整以及具体应用场景的开发工作。
闫俊杰觉得开源这东西不是用来替代商业赚钱的, 它更像是个催化剂, 等把权重开放出去之后, 外来的搞开发的人能够去试着碰碰那些原来模型没顾到的场景, 所以说咱们在搞智能化的时候, 应该让用户、弄技术的人和做学术研究的一块儿参与进来。
你觉得降低推理成本这条路, 最终能够成功追上那些巨头们通过堆叠算力来建立的优势吗? 欢迎在评论区里面进行探讨和聊天, 通过点赞和分享的行为让更多的人看到这些内容。
