前OpenAI首席科学家Ilya Sutskever创办的AI公司SSI(Safe Superintelligence)的首个模型细节于近日曝光。据X平台网友“三只草莓”爆料,SSI正在探索一种基于测试时训练(TTT)的小型推理引擎,该模型会用专门整理的数据学习“如何学习”,并在解决问题过程中更新部分权重。爆料还称,SSI当前版本已准备就绪,团队正将下一代版本的规模直接扩展10倍。
这一技术路线与Ilya去年11月在播客中表达的观点高度一致。Ilya曾表示,SSI要造的不是一台出厂时便无所不知的机器,而是一个能够学会任何工作的心智。这意味着模型需要掌握的不只是某项技能,还有学习新技能的方法,带有明显的元学习色彩。
TTT(Test-Time Training)的核心在于打破传统“训练”与“推理”的界限,让模型在真正解决问题时,利用眼前的数据继续训练自己,根据预测与目标的误差调整内部状态甚至直接更新参数。这与当前主流的长上下文扩展路线形成对比——后者通过不断增大上下文窗口来容纳更多信息,而TTT则把上下文当作训练数据,让模型在读取过程中将信息压入权重,从而真正改变模型本身。
值得注意的是,TTT与近期热门的Agent Harness、Context Engineering有本质区别。后两者依靠外部上下文搭建脚手架,让模型看到更多信息、调用更多工具,但模型本身并未改变;而TTT则让模型在解决问题过程中直接改变自己。
然而,这一路线也面临挑战。2016年微软聊天机器人Tay上线不到24小时即在网友诱导下输出攻击性内容,最终被紧急下线,这提醒人们:若AI系统在部署后持续学习,如何确保其安全可控?这恰恰绕回了SSI名字中“安全”(Safe)的含义。
Ilya是深度学习领域最具影响力的研究者之一,从AlexNet、Sequence-to-Sequence、AlphaGo到GPT系列均有他的贡献。2024年5月离开OpenAI后,他创办SSI,但此后两年不发模型、不做产品、不公开论文,外界对其研究内容知之甚少。直到今年7月,英伟达宣布与SSI达成长期战略合作并投资,向其提供下一代Vera Rubin系统,帮助SSI算力提升约10倍。据路透社报道,投资金额高达50亿美元。
此次模型曝光,标志着SSI首次对外展示其技术方向。若其基于TTT的持续学习路线成功,可能为AI产业提供一种超越预训练范式的新路径,对模型演进、算力需求乃至AI安全格局都将产生深远影响。不过,目前该消息仍为网友爆料,未经SSI官方证实,其实际进展与效果尚待观察。




津公网安备12011002023007号