标签:注意力机制

中国的 AI,不需要「天才娇妻文学」

最近看国内 AI 圈的一些新闻,我真的有点绷不住了。求求了,别再玩「天才娇妻文学」了,雷爆的还不够多吗? 尤其是某部分科技媒体,似乎特别喜欢把年轻的 AI...

押注记忆原生,MemT 1.0 破局养成系 AI 下半场

用 AI 最让人崩溃的瞬间,莫过于你花半天纠正它把任务做对,换个新会话,它转头又踩进同一个坑里。模型做过了事,却没变成它的成长。跑通单次任务之外,它真...

神经网络可解释性被AI解决了?90%神经元只有一个功能

这是 AI 领域最重要的成果之一。 本周五,OpenAI 可解释团队创建人 Nick Cammarata 的一篇超长文章震动了 AI 圈。他说利用现代智能体工具,万亿参数的大模型...

OpenRouter周榜全球第二,这个国产模型终于开源了

在能力、成本、稳定性之间寻找最优解。 智东西10月15日报道,今天,一款刚登上OpenRouter Token全球使用量周榜第二的大模型,开源了! 阶跃星辰正式开放Ste...

17岁天才少年陈广宇,宣布离开Kimi

今天,曾因 Attention Residuals 论文走红的 AI 少年陈广宇(Nathan Chen),宣布离开 Kimi。 16岁入职月之暗面,17岁挂出顶会级架构论文一作,深度参与Kimi...

阿里云栖大会公布全模态进展:Qwen4 训练中,下一代视频模型 11 月发布

9 月 22 日,2026 云栖大会开幕,阿里巴巴集中披露了从大语言模型到多模态模型的最新进展。最受关注的是下一代旗舰的节奏:基于全新架构的 Qwen4 已进入训练...

小米MiMo-V2.6训练成本曝光:两版本每小时合计烧超20万元

小米大模型团队首次把强化学习阶段的训练账本摊开给外界看。9月17日凌晨,小米MiMo大模型团队负责人罗福莉在社交平台发文,称团队沉默近半年一直在研究强化学...

DeepSeek V4.1 Flash 发布:7630 亿参数,KV 缓存降至前代 13%–25%

DeepSeek 于周四发布其主打成本与延迟优化的 Flash 模型更新版本 V4.1。这一版本号看似只是小幅迭代,但架构层面的改动幅度超出一般点版本,可能为更大、更聪...

谷歌发布 TimesFM-3,3.3 亿参数即可进行零样本多变量时间序列预测

9 月 1 日消息,谷歌今天发布 TimesFM-3 模型,这是该公司时间序列基础模型系列的第三代产品。拥有原生多变量预测、双注意力机制、连续补丁掩码等特性,可进...

神秘「牛来」模型果然是智谱,GLM首个原生多模态,还用的国产卡

智谱发布GLM-5.3 Flash模型,首个原生多模态,能力超越前代,价格低廉,架构全新,采用线性+稀疏注意力混合架构,提升效率,在国产芯片上运行,已开源。 终...
123…51