标签：注意力机制

DeepSeek在千呼万唤中推出了视觉理解模型DeepSeek-V4-Flash-Vision-Exp，正式补齐多模态能力。该模型原生支持图片输入，可识别图像、读取截图和图表。价格延...

8 月 24 日消息，月之暗面 Kimi 官方微博今日宣布，其第一代万亿参数多模态模型 —— Kimi K2.5 本月底即将结束服役。 据此前报道，今年 1 月，月之暗面宣布推...

谷歌 DeepMind 于近日发布 Gemma 4 系列开源模型，涵盖五种尺寸（E2B、E4B、12B、26B A4B、31B），支持文本、图像、音频与视频输入，并输出文本。该系列模型...

AI 编程席卷的取代论不绝于耳，但如果把时间线拉长却会发现让 AI 替人写代码这件事，人类已经尝试了七十年。1952 年霍珀想让程序员“回归为数学家”；1980 年代...

8月13日，阿里正式开放了Qwen3.8-2.4T的模型权重，这是继Kimi K3开源半个月后，国产超大模型开源领域的又一重磅动作。此次开源不仅是参数规模达到2.4T的大模...

2017 年夏天，Google 的 AI 研究人员发表了影响深远的论文《Attention Is All You Need》，提出了一种新的神经网络架构——Transformer。九年过去，Transformer...

当行业还在为云端大模型的参数规模、训练算力争论不休时，一场更具决定性的战争，已经在离用户最近的终端设备上悄然打响。 从车企密集发布搭载端侧大模型的...

摩根士丹利在8月9日发布的最新研报中表示，中国大模型市场长期被贴上的“价格战”标签正在失效，行业正从价格竞争转向以智能能力驱动的商业化。研报指出，三大...

Gartner张桐在论坛分享Kimi K3开放权重事件，指出其扭转市场认知，带来行业机遇与挑战。Kimi K3依托MoE架构有优势，但算力需求高。论坛还讨论了运营商转型AI...

近年来，大语言模型（LLMs）的突破很大程度上归功于Scaling Laws（参数、数据、算力）。 然而，在模型演进的过程中，一个同等重要的维度正变得愈发关键——记...