从「一模万人」到「千人千面」,通衍灵智把个性化做到了模型层

栏目:互联网 | 来源:机器之心Pro | 2026-10-19 19:46

机器之心发布

大模型正在变得越来越聪明。推理能力持续提升,上下文窗口不断拉长,Agent 也开始进入代码研发、数据分析和企业生产流程。但当 AI 从工具变成智能体,一个更深层的问题开始浮现:同一个越来越聪明的通用模型,如何真正形成属于不同个人、项目和组织的长期能力?

一个企业智能体可以检索全部制度和业务知识,却不等于已经形成这个组织长期积累下来的判断方式。一个 Coding Agent 可以索引整个代码库,却不等于真正理解这个项目多年工程实践形成的隐性规则。

这正是通衍灵智选择切入的方向。这家面向 "千人千面" 的自进化大模型公司,不重新训练通用基座模型,而是在越来越强的基础模型之上,通过个性化参数承载不同主体的专属能力,再通过持续自进化机制,让模型随着使用不断成长。

注:通衍灵智依托北京通用人工智能研究院(BIGAI)体系的科研积累与产业转化资源,专注于面向企业与个人的持续自进化专属模型(Personal AI)研发。通过个性化模型训练、持续学习与底层算力优化,推动专业知识和业务经验沉淀为可持续进化的专属智能能力。

从 "记住你" 到 "学会你"

过去的大模型个性化,本质上主要发生在模型外部。Prompt 告诉模型 "你应该怎样做",RAG 告诉模型 "这次应该参考什么",Memory 告诉模型 "过去发生过什么"。这些技术仍然非常重要,但外挂方式有一个绕不过去的天花板:它能让模型 "查到",却不能让模型 "学会"。

RAG 每次都要重新检索相关片段拼进上下文,模型本身的参数没有任何变化,关掉对话一切归零。这意味着三件事:模型无法从大量交互中积累出判断模式,它能检索到 "这个项目三年前做过一次类似重构",却无法从十次重构的成败中提炼出 "这个团队什么时候愿意重构、什么时候倾向于保守" 的直觉;隐性知识无法被检索,因为检索的前提是知识已经被写成文字,而大量工程判断从来没有被写下来过;检索到的信息和模型内部知识冲突时,模型不会说 "我不确定",反而会编造内容来调和两边。

a16z 在《Why We Need Continual Learning》中把这个问题说得很透:大语言模型本质上是压缩算法,训练时通过有损压缩把知识压进参数,这种压缩迫使模型发现结构、泛化、构建可迁移表示,但部署那一刻我们就停止了压缩。上下文学习是临时的,真正的学习需要压缩。

头部模型公司也在沿着这个方向持续推进。OpenAI 今年推出的 Dreaming,将 ChatGPT 的个性化从单次对话扩展到长期记忆,通过持续综合历史交互中的偏好、项目背景和约束,让模型在跨会话、长时间尺度上保持更稳定的用户理解。它解决的是 “如何让模型长期记得更准、更有用”,而不是每次都从零开始理解用户。

Meta 对 Personal Agent 的探索则进一步把问题推向模型训练。Muse 将长期记忆、主动执行和用户偏好结合在同一个 Agent 中,扎克伯格也提出,真正优秀的 Personal Agent 不能只依赖现成模型和应用层能力,相关能力需要更早进入模型训练,Meta 随后也披露了 Muse 背后的个性化模型 Muse Spark Open。这个判断释放出一个明确信号:个性化正在从 Prompt、Memory 和 Agent 编排,进一步进入模型本身。

通衍灵智沿着这一趋势继续向参数层推进:不是为每个人、每个项目重新训练一套基础模型,而是在共享 Base Model 之上,用轻量的 Personal Parameters 承载长期积累的专属能力。Memory 负责持续更新 “关于你的信息”,通衍灵智进一步要解决的是:哪些长期经验值得真正学进模型,并且能够随着真实使用持续更新。RSI 负责筛选学习信号并更新 Personal Parameters,TIP(训推并行) 与 Paged LoRA 则解决持续训练和海量个性参数运行的工程成本。

对此,通衍灵智首席架构师朱升华解释到,Memory 负责保留历史信息,RAG 帮助模型获取外部知识,Agent 组织任务执行。但当希望模型长期形成某个用户或项目特有的判断方式时,仅仅增加上下文不一定是最有效的方式。我们选择在共享基础模型之上,用 Personal LoRA 承载不同主体的个性化特征。

通衍灵智的技术路线是 "共享 Base Model + Personal Parameters"。基础模型继续提供绝大部分通用能力,在基础模型之上,用非常轻量的个性化参数(Personal LoRA)承载不同用户、项目和企业的专属能力。

和传统垂类模型不同,通衍解决的不是 "金融和医疗不一样",而是进一步解决 "即使都是 Coding,A 项目和 B 项目也不一样;即使都是投资,A 投资经理和 B 投资经理也不一样"。以 Coding 为例,一个成熟软件项目真正稀缺的,并不是 Java、Python 或某个框架的通用知识,而是多年工程实践形成的一整套隐性规则:为什么当年采用这套架构,哪些历史模块不能轻易修改,什么时候团队愿意牺牲优雅性换取兼容性,怎样的代码会在 Review 中被接受。这些知识一部分可以写进文档被 RAG 检索,但还有大量工程经验长期存在于代码修改、PR Review、accept/refuse、重构决策和老员工判断之中。

现有 Coding Agent 主要解决的是 "如何让模型快速理解这个项目",通衍灵智进一步希望解决的是 "一个模型长期工作以后,能不能真正学会这个项目"。

RSI:真正的壁垒不是 "会训练",而是 "能持续进化"

参数可以更新,并不意味着模型就拥有了持续学习能力;能跑通一次训练,更不等于模型具备了自我进化的能力。

通衍灵智真正的核心是 RSI,即 Recursive Self-Improvement(递归自我改进)。它不是单一算法,而是一套 Evaluator 驱动的持续进化闭环。

以 Coding 为例,模型生成代码以后,开发者会产生 Accept、Reject、修改和 Code Review 等真实行为,这些行为天然就在告诉系统什么样的结果符合这个项目的要求。第一步,利用这些反馈逐渐形成这个用户或项目自己的 Evaluator,也就是评价体系,它逐渐学习 "这个项目认为什么才是好的结果"。第二步,Evaluator 从真实交互数据中筛选有效的正负样本,形成后续训练数据。第三步,用这些数据更新 Personal LoRA。第四步,新模型产生结果以后,再通过 Evaluator 评估是否比上一版本更好。

完整链路是:真实交互与任务结果→Evaluator 判断学习价值→数据筛选与增强→Personal LoRA 增量更新→效果再评估→验证通过则进入服务,失败则回滚→每轮效果数据回流优化 Evaluator→下一轮真实任务。

而这个闭环本身也在迭代。每一轮更新的效果数据,包括哪些筛选策略过滤掉了噪声、哪些更新导致了能力退化、哪些正负样本构造方式带来了稳定提升,都会回流,用于持续优化 Evaluator 的判断标准和更新策略。模型用自己的运行数据改进自己的学习机制,这就是 AI 迭代 AI。



朱升华认为,RSI 要学习的不只是 "发生过什么",而是对这个具体用户、团队或项目而言,什么样的结果才算好;不只是 "这次更新了什么",而是 "下次该怎么学得更好"。模型用自己的运行数据改进自己的学习机制,这就是 AI 迭代 AI。

所以 RSI 真正要学习的,不只是 "发生过什么",而是对于这个具体用户、团队或项目而言,什么样的结果才算好;不只是 "这一次更新了什么",而是 "下一次该怎么学得更好"。这也是持续学习和普通 Memory 的根本差别:Memory 保存历史,Evaluator 建立判断,Parameters 最终承载被反复验证过的长期模式,而整个闭环在每一轮运行中持续升级自身。

这同时也是技术门槛最高的一环。模型一旦开始持续修改自身参数,就必须同时解决灾难性遗忘、错误反馈污染、版本管理、效果回归、更新稳定性和异常回滚等问题;而一旦开始让模型优化自己的学习策略,还必须解决更新策略本身的稳定性和安全性问题。据公司介绍,RSI 的核心技术路径和产品架构已经明确,相关模块正在逐步工程化,完整的自动化闭环仍是当前重点产品化方向。

训推并行解决成本,Paged LoRA 解决效果

RSI 要跑起来,基础设施必须回答两个问题:持续训练的成本谁来承担,海量参数并发的效果怎么保证。通衍灵智的答案分别是 TIP(训推并行)和 Paged LoRA。

传统 AI 基础设施把训练和推理分成两套资源体系,这种分工适合几个月才更新一次的通用大模型,却不适合数量巨大、更新频繁的 Personal LoRA。TIP 的核心是把训练和推理重新纳入统一的 GPU 调度体系,将资源管理下沉到更细粒度的算力单元,让 Personal LoRA 的增量训练动态利用在线推理没有占满的计算和显存。推理负载上升时在线 Serving 优先,资源出现空档时增量训练及时补入。TIP 的真正价值不是一个更高的 GPU 利用率数字,而是让训练本身成为在线运行系统的一部分,持续学习的成本结构随之改变。

当 Personal Parameters 的数量从几十个增长到上百万,第二个系统瓶颈是显存。传统 Multi-LoRA Serving 以完整 Adapter 为单位分配资源,Adapter 数量、大小和访问频率快速变化时,一方面产生大量显存碎片,另一方面完整 Adapter 的频繁换入换出会造成明显的延迟尖刺。通衍灵智的 Paged LoRA 借鉴操作系统虚拟内存的分页机制,把 Adapter 拆分为固定粒度的 page,通过页式映射和按需加载,让不同 Personal LoRA 不必以完整连续显存块长期驻留。

通衍灵智 CTO 储兵兵表示,TIP 的真正价值不是把 GPU 利用率再提高几个百分点,而是让训练本身成为在线运行系统的一部分,持续学习的成本结构随之改变。Paged LoRA 则把 Adapter 的显存管理粒度拆细,让海量 Personal LoRA 能在同一套基础设施上动态调度。

而在已完成的阶段性测试中,团队使用 Qwen2.5-72B-Instruct、8×NVIDIA H800,在 Paged 与 Flat 严格保持相同 5.79GB LoRA 显存预算的条件下进行系统测试。LoRA 请求比例 1% 至 30% 的负载下,Paged 模式 P50 延迟明显优于 Flat,元数据构造 P50 约快 2.2 倍,P99 长尾整体也体现出优势。团队同时定位出了性能边界:当 LoRA 请求比例达到 50% 的高负载区间,同步 page-in 和频繁 eviction 会导致 P50 性能退化,由此确定了异步 page-in、Hot Adapter Prefetch、并行换入等下一阶段工程方向。

结尾

单独看,LoRA 不是新技术,强化学习和持续学习也不是新概念,GPU 调度同样存在多年。但当 RSI 把它们串进一个真正长期运行的 Personal AI 系统,问题的性质发生了变化。RSI 的核心要求是参数持续进化,这个要求一旦成立,会同时倒逼参数从 "部署资产" 变成 "运行状态"、训练和推理不再严格分离、显存管理必须动态服务海量参数。

通衍灵智的整个技术链条正是围绕 RSI 的要求逐层搭建的:Base Model 提供通用智能,Personal Parameters 承载专属能力,RSI 是驱动持续进化的引擎,TIP 是 RSI 长期运行的经济性基础,Paged LoRA 是 RSI 规模化并发的运行时基础。

从 "一模万人" 到 "千人千面",表面上是模型从一个变成了千万个。底层真正发生的变化,是 RSI 让模型从 "训一次、用半年" 的静态交付,变成了 "边用、边学、边进化" 的活的系统。通衍灵智正在构建的,正是支撑这套活的系统长期运行的基础设施。

了解更多

猜你想看

← 返回首页