Mindverse 完成由好意思团领投的 A 轮融资，元禾璞华、韶音、变量本钱和老激动追加跟投，历史激动包括蚂蚁、源一、红杉中国、真格、高榕、线性等一线基金，融资额近 5000 万好意思元，高鹄本钱担任独家财务参谋人。

一个会不竭学习的先进 Agent 模子，到底该若何构建？

在大模子智能上限一齐被推高时，「不竭学习」的最好谜底照旧莫得出现。

「真确的 Agent 能力并非来自小巧的辅导词免强，而是源自后测验。」

Mindverse (心洲科技) 是少数把赌注押在模子「里面」的一家创企，它在通用大模子的基础上，用强化学习让它从复杂、多门径的的确任务中学会如何把事作念成，让模子从「知说念好多」变为「能办善事」。

而终结不竭进化的重要在于 LoRA 技巧，它就像给一个远大的分享大脑挂上无数轻量的「妙技包」，每个妙技包只占极小参数，却能独处更新、相互攻击，让模子以极低成本不停积贮属于特定用户或场景的缅想与能力，而不是每次重新重训。

三年前，当通盘行业的眼神还盯在预测验上，Mindverse 的首创东说念主 Andrew 就在一篇和姚顺雨合作的论文里写下了一个险些没东说念主认同的判断：

Agent 的能力，最终要回到模子测验自己，而不是靠 prompt 和框架拼出来。

早期 Mindverse（心洲科技）里面研讨会议 ｜ 泉源：Mindverse

三年昔日，当行业注倡导从预测验涌向后测验，这家公司发现，我方一直寡言走的那条路，也曾站到了潮流的正中央。很快他们将开源我方测验的 750B agent 模子，这也会成为全球第一个在 GLM 5.1 上完成强化学习后测验的后果。

看准这件事很早，公司团队却不大。Mindverse 中枢研发约 20 东说念主，成员来自 DeepSeek、字节 Seed、xAI，也有清华、MIT、杜克的配景，累计发表过 200 多篇顶会论文。

两位首创东说念主陈锴杰、Andrew 从 2018 年就沿途休学创业，作念过机器东说念主、办过实验室，又各自回到学校，2023 年再次走到沿途。Andrew 收拢了从 agent 测验到先进 agent model 的技巧范式，首席科学家马骁腾带来了十年的强化学习积贮，而陈锴杰则主要温雅业务模子的应用和用户价值判断。

在和陈锴杰这场对话里，咱们想弄澄澈的是：如何用后测验的模式，测验出一个低廉、好用、还能不竭成长的模子？

以下是极客公园和首创东说念主陈锴杰的对话，经过整理：

01

模子变强的下半场，在后测验

极客公园：这一两年，行业的注倡导肉眼可倡导从预测验转向后测验。后测验这件事，是什么时候真确变紧迫的？

陈锴杰：今天预测验和后测验的领域也曾越来越隐隐，预测验阶段也会混入多量 Agent 轨迹数据。但大体上仍然可以这样差异：预测验主要应用互联网数据栽培对全国的基本默契，后测验则把这些默契滚动成具体能力。

真确的分水岭大略出当今 DeepSeek 发布 R1 的时候。那是行业第一次看到强化学习能够系统性地推动大模子能力进步，亦然后测验地位快速飞腾的运行。在那之前，后测验奢侈的算力可能只占预测验的 3% 到 5%，当今绝大部分模子能力的进步都发生在后测验阶段。

一个紧迫原因是，行业运行积贮此前互联网中不存在的数据。Claude Code 这样的家具里多量的确任务产生的 Agent 轨迹运行被千里淀下来，成为推动后测验不竭演进的紧迫基础。

极客公园：后测验真确处置的，到底是模子的什么？是能力，是对都，照旧让它「学会作念事」？

陈锴杰：是在「对全国的基本默契」这个基础底细之上，去增强它在的确任务里的能力。预测验给了它常识和全国不雅，但一个知说念好多事的东说念主，不等于一个能把事作念成的东说念主——后测验补的就是背面这半截：若何在的确任务里把已有的默契用起来、用对。

而且这件事还有一个改造日的形态，叫不竭学习（continual learning）。咱们想作念的是有一种测验模子的按序，能让模子用很低的成本不停演化、进化，学习新的常识、作念新的任务，也淡忘那些不需要的常识和任务，让效果以一种渐进的模式进步。它不是测验完就定型，而是一边在的确场景里运行、一边不竭地更新我方。

极客公园：你们认定要靠测验去处置这件事，其实下手很早。2023 年那篇 FireAct 就建议「agent 能力来自测验、而不是 prompt」，那时照旧个非共鸣。为什么你们敢这样早押？

陈锴杰：这个判断和我离开学校后的第二次创业经验关系。那时咱们在作念 AI 游戏，用的是 GPT-2、GPT-3 期间的模子。能力很有限，但也曾需要构建一个会跟着用户步履不停变化的 AI 全国，本体上是在搭建复杂使命流。

那两年咱们很澄澈地看到一个问题。单个门径得手率达到 95%，看起来也曾很高，但当十几个门径串联在沿途时，过错会不停累积，最终破损通盘体验。长程任务不可能只依赖 Prompt 拼接完成，能力最终必须通过测验取得。今天环球常说的 trajectory，本体上就是一条贯穿的念念考与看成轨迹。

自后姚顺雨建议 ReAct，把念念考和看成组织成一条贯穿轨迹。咱们看到这件事的时候，其实额外有共鸣。亦然从阿谁时候运行，咱们越来越敬佩，Agent 能力最终会回到测验自己。Andrew 和他沿途发完 FireAct 那篇论文之后，咱们也决定沿着这条道路不绝往前走，设置公司，把这件事作念下去。

极客公园：这条路绕不开 LoRA。但大部分东说念主对 LoRA 的印象还停在「给图片加个滤镜」。在你们这儿它彰着不是这个扮装，该若何再行理解它，它和强化学习又是什么关系？

陈锴杰：咱们选 LoRA，最初其实是个很践诺的辩论，它是一个极致性价比的测验按序。你可以把它理解成一个自顺应的适配器：它不去动通盘模子，而是把模子里最重要的那部分参数提真金不怕火出来测验，用很少的参数就能拟合通盘模子的测验效果。因为咱们最早唯有几十卡、一百卡的集群，受到这个截止咱们必须把每一分算力的效用榨到极致。

但今天 LoRA 演变成了构建不竭学习的技巧底座，它持重让模子的能力能够不停地被承载、被更新。它和强化学习其实是单干的两件事，强化学习是后测验里最主要的按序，持重把模子的能力真确练出来。在万亿参数这个范围下，强化学习和 LoRA 的适配两件事情都很贫乏，但都绕不开。

极客公园：那你们盘考真确的改革点是哪一刻？咱们注视到一个挺神秘的细节，险些在合并时辰，硅谷的 Thinking Machines 也在作念合并件事。

陈锴杰：改革在 2025 年 9 月前后。咱们发当今填塞大的 MoE 模子上用 LoRA 作念强化学习，性能是莫得耗费的。一个轻量的低秩按序去更新模子，和把通盘模子全参数更新一遍，效果一样。这意味着咱们能用 1/10 的成本，拿到和全参数测验一模一样的终结。当今它从一个性能和效用的弃取变成了对效用的单调优化。

作念出这个终结时咱们第一反应是怀疑我方。直到 Thinking Machines 随后在 9 月 29 日他们发了《LoRA Without Regret》，论断跟咱们都备一致。看到他们独处印证了合并件事，咱们反而褂讪了。

到前年 12 月底，咱们完成了万亿参数的 LoRA 强化学习，和 Thinking Machines 同期发布。全球那时能作念到的唯有咱们两家，本年加上 Fireworks（Cursor Composer 模子的合作伙伴）也就三家。

极客公园：你说 LoRA 是「构建不竭学习的技巧底座」。这句话具体若何理解？为什么 LoRA 这层东西，会成为模子「不竭学习」的重要元器件？

陈锴杰：它是基模上头的一个更小的层，比如咱们最新要发的模子，就是基模加上头这个 LoRA 一层，LoRA 这层的参数目大略是基模的千分之五，有好多个的话会更大。因为这一层参数未几，是以它低廉、好训、可以延长。

举个例子，假定我做事一个金融客户，先把他的股票、市集数据训成一个金融推理模子。过三个月，金融市集又发生好多事、股价也变了，这些新数据若何办？OpenAI、Anthropic 要把这些再训进预测验里，是很贵、很难、动起来成本极大的一件事；但这个金融客户，因为 LoRA 自己够小，只须不绝训这个 LoRA、把新数据再训进去就行。LoRA 的大小也不固定，可以作念得很小很小，小到每个东说念主有一个、薄薄的一派，用一个东说念主一个月的数据去训，可能就是几十好意思金的量级；而最大的、能追平全参数测验效果的 LoRA，也不外几万、几十万好意思金。是以它有额外大的可调度空间：你企业数据少能训，数据多也能训，想要接近预测验级别的大进步、让它学会一门新的代码语言，也能训。薄、好训、可加、低廉，这就是 LoRA 在不竭学习上的第一层真义，在单个 LoRA 上。

极客公园：如果毋庸任何术语，让一个普通东说念主听明显，你们到底在作念一件什么事？

陈锴杰：咱们在一个填塞强的大模子底座上，挂好多个「妙技包」，让一个模子能同期变成多如牛毛个各有长处的模子，去做事不同的东说念主、不同的企业、不同的场景。

这个底座就是 base model，提供通用的智能上限；那些"妙技包"就是 LoRA，每一个承载一小块具体的东西，里面可以是某个用户的历久偏好、某个企业的业务训戒、某类任务的叮属。昔日环球的默许作念法是"一个模子做事通盘东说念主"，通盘东说念主共用合并套参数；咱们想作念的是反过来，分享合并个贤达的底座，但每个东说念主、每个场景头上都有一派属于我方的、还能不竭长大的参数。咱们把这套结构叫 mixture of LoRA。

极客公园：mixture of LoRA，这名字会让东说念主坐窝预料 MoE，环球练习的 mixture of experts。这两个「mixture」是一趟事吗？

陈锴杰：有学习 MoE 的方位，但不一样。MoE 里单唯一个 expert 是没法完成推理的，它更像是模子里面我方分出来的诡计单位。但 mixture of LoRA 里，每一个 LoRA 都是独有的、可以单独调用、对应一块明确的能力。

举个例子，假定我要作念金融任务，我可以一次性挂 10 个 LoRA，一个学股价、一个学财报、一个学风控……分头去学。哪天我又要加两个新任务，比如港股打新的技巧，我都备毋庸动前边那 10 个也曾学好的，径直再加两个 LoRA 进去学就行，学完一挂，模子的能力就自然延长了一块，旧的少许没受影响。这就是为什么咱们说它是一个"天生顺应不竭学习"的结构。因为其通盘的能力是一块块累加上去的，而不是每加少许新东西就得把通盘模子重训一遍、还冒着把旧本领弄丢的风险。这亦然 LoRA 的第二层真义，在 mixture of LoRA 的不竭延长上。

咱们还在探索的、更远的可能，比如说让 LoRA 之间协商、合作。当咱们有了 mixture of LoRA 这个架构，咱们会温雅不同的 LoRA 之间的谀媚，会不会因为模子的各样性带来更好的终结。

极客公园：这套结构落到一个真东西上，就是你们行将要发的模子？

陈锴杰：对咱们很快会开源咱们测验的模子，它天生就辅助 mixture of LoRA，是一个 750B 参数的 Agent 模子，其中是 744B 的预测验 GLM 5.1 + 6B 的 LoRA。咱们应该是除了智谱除外，第一个在 GLM 5.1 上完成强化学习后测验的团队。

在 GLM5.1 上头作念 LoRA 强化学习是有实打实的工程门槛的，需要适配 DSA，DeepSeek Sparse Attention，还有 MTP，Multi Token Prediction。咱们这个模子不是去追「什么都会」的通用基模，它是专门面向 agent 场景深度后测验出来的，主要做事于生成式 UI 的编码、生涯中的聊天、长链路推理和器具调用。

极客公园：新模子你们界说成一个 Agent Model。这个词该若何理解？环球在后测验上的参加，最终都是为了它吗？

陈锴杰：最新的前沿模子都是面向 agent 的模子。拿 Claude 例如：它出了 Claude Code 之后，模子测验就会用 Claude Code 的数据，这些数据和咱们平淡用豆包那样「问一句答一句」都备不同。在 Claude Code 里，你写一段代码是一个额外长的任务，中间有好多交互，是一条很长链路的数据。用这些数据测验之后，华游体育中国官网入口Claude 这个模子就越来越"agent native"，越来越顺应 agent 的架构，因为它本来就是用这些数据训出来的。是以模子和应用场景是相反相成的，环球都在往这个方针演进，程度各不疏通。

咱们作念的亦然这件事，只不外场景放在生涯上。Macaron 是咱们的 agent harness，生涯场景里雷同有好多复杂的器具调用、代码履行，还有好多隐隐的申请，用户我方也不知说念想干嘛。咱们会把这些串成一条贯穿的任务链路，让模子在这条链路里通过测验作念得更好，去进步 agent 的发达。是以当咱们说 agent model 时，指的就是：这个模子训出来，是为了在一个多轮 agent 环境里使用的，它专门为这个环境作念了优化。它照旧一个模子，但作念了 agent 的测验。

咱们很额外的方位在于，市面上险些莫得专门为 agent 使命流优化的模子。国内多量量的开源模子，基本还在追逐 GPT 和 Claude 起先进的那一代，是以环球的元气心灵好多还在预测验上，若何先赶上，可能还顾不上把 agent 这部分在后测验里作念得额外好。

Claude 细则在渐渐作念，作念得也额外好，但同期他们要管的课题多好多。咱们是专门为 agent 测验模子，让它把 agent 任务作念得更好，器具调用、缅想索要、什么时候该把任务交还给用户、什么时候不绝多轮念念考，这些它都会作念得更好。

02

模子期间，时辰就是最大的壁垒

极客公园：环球最初意识 Mindverse（心洲科技） 就是从 Macaron 运行。你谈到Macaron 不仅仅个 C 端家具，而是模子的 agent harness。能具体讲讲，模子和家具到底若何相互喂养？这和环球常说的「拿用户数据训模子」有什么不一样？

陈锴杰：咱们从一运行，就是把模子测验和 C 端应用的迭代放在沿途看的，它不是"先有模子、再拿家具汇注点数据"那么粗心，而是一个双向的轮回。

但咱们和好多东说念主有个重要区别，咱们不径直拿用户的数据去测验。生涯里的心事和使命一样紧迫，而好多东说念主会径直拿用户数据训模子。咱们的作念法是借助用户的反馈，去理解数据里的散布和脾气，然后造一个咱们我方的模拟环境，把模子放进这个模拟环境里测验。咱们会成心往里面加好多噪声、打扰、极点情况，因为的确用户的发达本来就额外极点：会半途打断、会改目的，还会给到错的、逾期的信息。模子在这种环境里练出来，才扛得住践诺里 agent 真确会遭逢的情景。而且后测验需要的数据量其实很小，几万条、几十万条就是一个很有真义的范围，它不像预测验要那么大的量，更重要的是数据质地要额外高。

反过来，模子也喂家具。这些训出来的能力，训完是径直部署回 Macaron 的，家具体验的上限本就由模子能力决定。这和 Anthropic 是合并个逻辑，Claude 的测验直接纳事 Claude Code，Claude Code 里跑出来的东西又流且归训模子，只不外咱们的场景是生涯。是以 Macaron 对咱们的真义，不是多一个家具进口，而是给模子提供了一个的确、历久、会不竭产生反馈的 agent harness 和测验环境。Macaron，当今有 200 多万用户、杰出 10 万日活。

极客公园：你们很垂青「生成式 UI」。模子把谜底讲澄澈不就行了，为什么非要它会「画界面」？

陈锴杰：模子什么都返给你一段翰墨，其实不是一种好的抒发模式。东说念主类天生就是一个视觉动物，对图形的感知要权臣的好于翰墨。雷同一件事，展示一张图表，细则比把这些数字写成一大段话更澄澈——这中间省却的，是你的默契包袱。Google 在 IO 大会上讲的 omni 亦然这个兴致，模子该用更丰富的神色把终结交给你，而不是永远丢一堆文本让你我方消化。

是以在 Google 界说的 A2UI 这个圭表上，SOTA 算计的就不仅仅「模子能不可生成 UI」，而是「它生成的这个界面，帮用户下落了些许默契包袱」。在生涯场景里这件事尤其重要：你问「今天吃什么」，给你弹出几个能径直点的选项卡，和给你写三百字，体验都备是两回事。模子会不会"好好言语"，在 C 端是径直决定体验的。

极客公园：你们在模子上头公布的 benchmark 也挺特地念念，生涯类任务上拿了 SOTA，但代码、数学这些硬核任务，你们明说了只靠近、不追第一。这个弃取自己是一种表态吧？

陈锴杰：这个选拔自己就流露了咱们是一家什么样的公司。姚顺雨在「AI 下半场」里的不雅点咱们额外认同：接下来 benchmark 可能是模子测验里最紧迫的一环，因为你选拔什么 benchmark，就是你想让模子在哪些任务上变强。

咱们挑了四个，Living Bench 是咱们我方界说的、Vita Bench 是好意思团出的，这两个打的是生涯类长链路任务，比如一次旅行筹谋，听着粗心，真作念起来遭灾的关节和个东说念主偏好额外多；A2UI 是 Google 建议的生成式 UI 圭表；PinchBench 是国际常用来描摹 OpenClaw 这类 agent 任务发达的榜单。这四个上咱们都作念到了 SOTA。

而客服、写代码、纯数学这些传统任务，对咱们也紧迫，但不是咱们最想争第一的方位，咱们会去靠近开源模子的最好水平，但不在这上头争第一。说白了，咱们不想作念一个样样考第一的通用模子，咱们想作念一个在「的确生涯里把复杂的事办成」这件事上最好的 agent 模子。

但从另一个角度来看，咱们整套测验框架是可复用在多个场景的。咱们通过此次发布的首个模子，本体上是考证了「基座大模子+妙技包」这条路在复杂长链路任务里的有用性。因此，濒临更广袤的企业端垂直需求，天天德州app中国网入口咱们不需要重新训模子，只需要基于合并个底座，快速增强出对应场景的专精妙技，以极低角落成本隐蔽新的 Benchmark。

极客公园：神话你们能将模子后测验的成本镌汰 1/10，且效果保持不变。这 10 倍到底省在哪？这个事情在万亿参数的模子上去作念有什么难的方位？

陈锴杰：省是因为我毋庸为每个用户、每个场景都复制一通盘大模子。打个譬如，如果要给几千个东说念主各部署一个完好意思的万亿参数大模子，那等于把合并个硕大无朋原样复制几千份，需要的算力是个天文数字，经济上根柢不可能发生。但在咱们的结构里，这几千个模子分享合并个底座，各自只带一派小小的 LoRA，所需的算力跟部署一个模子比较险些莫得加多，省却的，就是那几千份重复的底座。

至于为什么「越大越难」，是因为贫乏不是线性涨上去的，而是一说念说念工程门槛。在小模子上挂个 LoRA 没什么罕有，但要在接近万亿参数的超大模子上安逸测验、况兼把成百上千个 LoRA 同期部署好，背后是一整套系统工程：算子要重写、显存若何管、测验和推理若何保持一致、几百万个妙技若何加载切换、多个客户之间若何攻击……每一项到了这个圭表都会变成硬骨头。

国内当前能在这种尺寸上作念 LoRA 测验的，可能就咱们一家。咱们当今致使在往极小的方针抠，传统 LoRA 一般用 16 或 32 的 rank，咱们在盘考 rank 等于 1、致使比 1 还小的算法，因为好多个性化要存的信息其实没那么多，妙技包越小，性价比越高，能挂的数目也越多。

极客公园：数目是个重要词。前年 12 月你们一个底座上能挂 10 个 LoRA，本年就说能到百万级。这个跨越靠什么？而且「模子数目」听起来也成了一个新的 scaling 维度？

陈锴杰：靠两件事。一是把 LoRA 作念得越来越小，刚才说的 rank 作念到 1，单个就更容易承载；二是更好的缓存机制，以前环球可能是三层缓存，咱们多作念了一层，加上好多并行处理的按序。也因此，它不是上百万个同期激活，而是这上百万个能以很快的速率激活，大略一秒以内，一个申请进来、掷中了一个还没激活的 LoRA，也能在一秒内反映。是以「合并个 batch 只可作念几十个」其实不是截止，它取决于资源，你要部署百万个，把卡开多少许就行。

而「模子数目自己成为一个 scaling 维度」，是让咱们很昂然的事。昔日大模子的 scaling 干线是把一个模子越作念越大；agent 期间多出来一条线，是把模子的数目也范围化。

咱们考证过它是设置的，挂上去的模子越多，全体智能安逸往上走，差未几是一个当然对数 scale 的线性进步。这对咱们来说亦然个挺惶恐的发现。是以咱们可以作念到一东说念主一个、一个公司一个，或者一个任务领域一个。

极客公园：你们说全球能作念这件事的唯有三家，可这听起来更像是「作念得早」。如果大厂下定决心、致使我方造一套 LoRA 后测验架构，他们作念得到吗？你们真确的护城河是什么？

陈锴杰：在大模子这件事上，时辰自己就是壁垒。你看 OpenAI 和 Anthropic 之间也莫得壁垒，莫得谁作念得了、谁作念不了，技巧平台一样、东说念主也在流动。今天的 AI 是一个不停「酿成共鸣、追共鸣、再酿成新共鸣」的历程。从有莫得共鸣，到强化学习、到 O1、R1、再到 agent，环球瓜代最初。真确的辞别是在这种瓜代里，谁先作念出来、谁走得更快，谁就能率先和用户、和 toB 客户酿成轮回，把价值锁定下来。

但咱们也确乎积贮了一些别东说念主一时绕不外的东西。一个是的确的工程千里淀和行业招供，咱们在开源社区和蚂蚁、华为沿途构建 AReaL-MinT，和字节、英伟达沿途构建 verl-mint，这是国内两个最主要的强化学习框架，都把咱们的 LoRA 技巧整合了进去；英伟达把咱们挂在了官网首页。这些不是 PR，是环球在底层真的用上。

另一个是咱们看问题的起始不一样，大厂作念模子往往从预测验、从数据和基础设施往下推，咱们是从用户需求、从的确家具里跑出来的问题往回推。这个从家具里长出来的明察，是只在实验室里训模子的东说念主拿不到的。

极客公园：这些和大厂的合作具体落在哪一层？顺着聊聊钱，你们的买卖化逻辑是什么？既给云厂商作念底层、我方又作念家具，这中间不会打架吗？

陈锴杰：合作分几个档次。和英伟达是在开源社区双向的技巧共建，咱们把算子写出来、沿途共建底层平台；和字节、蚂蚁是在开源社区共建强化学习框架，咱们既用他们的平台，也把高效测验的按序孝敬了进去。再往上到业务层，因为咱们有高效的并发测验、并发推理基础设施，能帮客户把测验成本降一个数目级、大略到原本的 1/10，就和华为云、微软云、阿里云、火山这样的客户酿成合作，和华为是很深的政策合作。

至于会不会打架，咱们想得比较澄澈，不想把我方作念成一家纯买卖化的公司。如果某个方针要作念成大范围做事、需要很大参加，咱们更景观交给华为云、微软云这些平台伙伴去范围化，我方专注在技巧自己。是以「既做事云厂商、又我方作念家具」不是掌握手互搏，而是单干。他们作念范围，咱们作念上限。C 端主要照旧 Macaron，对今天的咱们来说，把后端技巧作念到填塞好，比急着谈收入更紧迫，技巧真到位了，需求当然会找上来。

03

「模子缅想不应该是记事本，应该在参数里」

极客公园： 当一个底座上挂着多如牛毛个 LoRA，模子与模子之间，会运行发生什么新的事情？

陈锴杰：会运行出现单干和谀媚。Andrew 讲过很让我昂然的一个类比，他以为咱们正在让模子长出「生物学」。

在生物出现之前，全国上唯有化学，唯有原子和分子。从化学跃迁到人命，最重要的改革点就是细胞膜。它划清了表里领域，界定了人命体的本体。放到 AI 领域，咱们将这种领域攻击称作 Isolation。每一个 LoRA 都是独处的单位，如同被细胞膜包裹的个体。

以前的模子唯有「物理和化学」，拼参数目、拼数据量、拼算力；而当你能把模子一个个攻击开、又让它们之间高效地交换信息时，就像单细胞走向多细胞人命，单干谀媚当然酿成，遗传、进化亦随之发生。AI 的发展轨迹，正从隧说念的化学层级，跨步走入生物演化的长河。

极客公园：但 isolation 听起来是个很「工程」的词，致使有点等闲。你为什么把它抬到这样高的位置？

陈锴杰：恰恰因为它看起来等闲，才容易被低估。环球谈缅想的改日，一般会盯着两个很 fancy 的方针，更好的模子结构、更高效的算法。isolation 排第三，听上去就是个「把数据离隔」的脏活。但我前边说了，从化学到生物那一跃，靠的就是细胞膜这层「攻击」。

而且 isolation 不仅仅技巧问题，它是这套东西能不可真确进入社会的前提。企业和企业之间是有壁垒的，一家公司不可能、也不肯意把我方的历久缅想交出去，和别东说念主的揉成一个合股的大模子。东说念主和东说念主之间更是如斯，如果一个模子同期捏着我和你的历久缅想，那我只须问它，就能把你的心事全套出来，这是很可怕的。是以每个东说念主、每个企业的缅想必须被干净地离隔。LoRA 的「一个底座、无数独处妙技包」，当今看就是终结这种攻击的一个很好的模式。

极客公园：为什么你们认定，光靠大模子自己处置不了「缅想」和「个性化」这件事，非得用 LoRA 这种机制来补？

陈锴杰：因为今上帝流的缅想作念法，本体上是把东西写进一个外部的文档或数据库里，你可以理解成模子掌握挂了一个不停变长的记事本，它记取的是事实和荆棘文。这种模式一运行很好用，模子越用越懂你；但它有个躲不掉的舛讹：这个记事本只增不减，越记越长，而模子每次能真确「读进脑子」的篇幅是有限的。于是记的东西越多，掷中你当下需要的那条的概率反而越低，到某个临界点，体验会运行往下掉。消费者其实很久没用过一个"越用越难用"的家具了，微信是越用越好用的，因为一又友越来越多；但一个记事本式缅想的助手，可能用到第三周就运行变笨。

咱们的判断是，真确的历久缅想不该写在外部记事本里，而该「训进参数」。写进 prompt 或文档的，是临时的、外挂的；训进参数的，才是模子我方长出来的、安逸的能力。LoRA 恰恰是承载这件事的器具——它把你这个东说念主的偏好、习气、和它打交说念的模式，千里淀成模子参数里的一小块，而不是一段随时可能被挤出窗口的翰墨。

极客公园：在「参数化缅想」这个大方针下，咱们注视到你们其实不啻 LoRA 一条线，还有一个叫 δ-mem 的东西。一个是离线测验出来的参数妙技包，一个是及时更新的在线缅想矩阵。这两条在你们的缅想体系里若何单干？照旧说，你们我方也在赌哪条更对？

陈锴杰：其实这两条莫得环球想的那么对立。δ-mem 亦然从 LoRA 这套按序里长出来的，本体上作念的照旧合并件事，是把缅想千里淀进参数，而不是挂在外面。仅仅咱们作念研发的历程中，在架构上产生了一些翻新的想法，就把它作念出来了，作念出来发现效果还可以。

极客公园：那就得问一个最犀利的问题了。如果三五年后，通用底摹自己强到能径直理解每一个用户，你们这套「为每个东说念主挂一派 LoRA」的事，是不是就失去真义了？

陈锴杰：我不这样认为，而且原因恰是刚才说的 isolation。最本体的少许是，每个东说念主的数据、训戒和生涯经验，是各自卫存的——这意味着我的数据、和另一个东说念主的很难也不该被混在沿途训进合并个模子，再让这一个模子把咱们三个都做事得很好。模子自己细则会越来越贤达，但每个东说念主独有的体验，终末照旧要靠属于每个东说念主的那部分数据来救援，而这些东西最终会千里淀在属于你的参数、属于你的模子层里。是以哪怕底座越来越强，「每个主体有一派只属于我方、被攻击的参数」这个需求不会散失，反而会更刚性——底座变强，只会让挂在它上头的每一派个性化妙技包更值钱，而不是把它们抹掉。

极客公园：这两年另一个很热的词是 harness，给模子套一层环境缅想框架。会不会「通用模子 + harness」就够了，根柢用不着你们这套「通用模子 + LoRA」？

陈锴杰：咱们其实我方也作念 harness，而且把 harness 和模子测验放在沿途，是以反而有更多空间把这件事作念好。在「后测验加 harness」这件事上，咱们险些和最好的团队站在合并条线上，同期又有我方选的方针柴米油盐、历久生涯主题。在这个方朝上，把训模子、后测验、不竭学习的 LoRA 和 harness 放在沿途，我信托能作念出最独有、最有价值的家具体验。

是以 harness 的发展对咱们是善事，因为咱们可以为了 harness 去训模子，好多团队作念不了。说具体点，就是在咱们的家具体验里有一个专用模子，你顺手纪录、分享生涯碎屑，它越来越懂你，给你推选需要的餐厅、健身贪图、减肥贪图，孩子要买什么，推选得越来越准。这种体验需要模子和 harness 协同。像 OpenAI 就不会专门为这件事去训一个专用的 harness 和专用的模子。这里就是咱们的契机，把家具形态和模子测验放在沿途。

极客公园：如果 LoRA 这条路一两年、三五年都没作念出预期的效果，你们会掉头去作念别的吗？照旧说，你们就认定了 LoRA？

陈锴杰：咱们真确三年没变的有两条：咱们从第一天运行就对峙用测验的按序去进步 agent 能力，第二是让盘考和家具沿途作念 co-design，用的确家具提供的确任务、的确的失败案例，再把这些反馈训回模子。今天其实很少看见优秀的模子公司莫得我方的家具了，反过来也挺难的。

极客公园：那你们到底把我方界说成一家什么公司？会径直说我方是「模子公司」吗？和 Kimi、智谱这些比，区别在哪？

陈锴杰：咱们成为了一家作念 Agent 模子的 Frontier Lab，但和环球练习的模子公司不太一样。Kimi、智谱这些更多是从预测验、从数据和基础设施启程，去作念通用底模；咱们是从用户需求、从的确家具里跑出来的问题启程，去作念后测验和不竭学习。说得直白点，别东说念主是先有模子再找场景，咱们是从场景倒推模子。

它会当然导出一些脾气，作念后测验自然更贴近用户，你得对数据有理解，才能作念更好的后测验，预测验是学习互联网、学习东说念主类常识，后测验是学习场景、学习在一个场景里若何更好地互动。连公司范围也会不一样，预测验和后测验需要的卡大略差半个量级、三到十倍，终末的体量也不同。在中国，以这个视角去训模子的公司，应该是很少的。

外界无意把咱们这种形态叫 Neo Lab，它不是传统真义上的实验室，而是一种新的 AI 公司组织模式，团队年青、东说念主才密度高，目的不是包装一个 AI 应用，而是不竭去探技巧上限。国际像 Thinking Machines Lab、Ilya 的 SSI 和李飞飞的 World Labs 都有这个气质，国内还比较少。咱们大略是这个形态，技巧深度上和它们有重叠之处，但家具和模式运行得更早。

极客公园：你们是什么时候明确「要作念一家后测验公司」的？这中间最大的纠结是什么，终末若何有贪图的？

陈锴杰：其实公司降生时 Andrew 那篇论文就埋下了，它叫 Towards Language Agent Fine-Tuning，走向大语言模子 agent 的后测验。但若何把它作念塌实是难的，要把盘考员敕令起来，要有填塞的算力和资金辅助探索，应用方针也得找到谜底，否则没法在空的环境里测验。更多是若何在这两年半里把它变成践诺。

决定作念大范围强化学习这件事真的很难。咱们作念出来的时候，国内可能就四五家，DeepSeek、Kimi、字节、阿里，然后是咱们。那时下决心很难，钱未几、东说念主也未几，却要挑战这样难的事。但你不作念强化学习，就没办法作念后测验，是以终末照旧咬牙作念了，今天看是正确的选拔。我能咬紧牙关，亦然因为咱们认定我方是一家作念后测验的公司咱们对创业的偏好是一致的，它应该是一家得手的、有技巧价值的公司。

极客公园：当今高性能通用模子越来越闭源，而你们要基于填塞大的模子才效果好。如果改日模子都闭源、你们致使成了模子的购买方，这件事的利润空间还剩些许？

陈锴杰：我以为总会有开源模子。当今开源和闭源效果互异不大，如果哪天互异变得额外大，事情可能会不一样；但我以为中国会不竭有很好的开源模子，这点不会变——只须有第二名，环球照旧会有开源的倾向。如确实的都闭源了、咱们要去购买，那若何算性价比、做事用户能产生些许价值，可能就是改日买卖模式的考量，今天公司还没到念念考这个问题的阶段。也有可能在那种情况下，咱们会像微软和 OpenAI 当初那样，和某一个公司深度合作，这也不是莫得可能。

极客公园：三年后，你但愿环球若何记取 Mindverse（心洲科技）？有莫得想过非常，会是上市、被收购，照旧别的？

陈锴杰：末端在咱们心里，是 agent model 和 C 端家具酿成一个飞轮。咱们的技巧驱动出别东说念主作念不出来的家具体验，这里面致使包含硬件和其他形态，也在和一些公司合作；同期这套测验和部署的能力会做事越来越多的企业，2B 这条线也在快速长。再往眺望，这个行业的末端可能是天文级的算力被部署到天际里，杰出今天一个国度的发电量，那是个远处的图景，剩下的都是历程。

极客公园：如果只可在「作念一个改变历史的盘考冲破」和「作念一家不竭盈利的公司」之间选一个，你们选哪边？

陈锴杰：咱们会选盘考冲破那一边。不是不在乎盈利，而是咱们信托，只须你在技巧上真的处置了别东说念主处置不了的问题，买卖当然会来找你；反过来不设置。

如果非要落到一个普通东说念主身上德州app(中国)网下载，这条路如果走通了，他的生涯会少掉好多苦恼、多出一些褂讪的幸福。但每个东说念主的境遇各有不同，悲欢亦是千东说念主千面，而这恰恰就是「个性化」这件事的全部真义，不是给通盘东说念主一个更贤达的模子，而是让智能真确明察每一个独有的灵魂。