标签:Nvidia
面壁智能开源 MiniCPM-o 4.5 的 GPTQ 量化版,9B 参数支持全双工多模态
面壁智能(OpenBMB)于 2 月 6 日宣布开源 MiniCPM-o 4.5 的 GPTQ 量化版本(W4A16),该版本基于 9B 参数模型,采用 GPTQModel 工具量化,旨在降低模型部署...
“小号”美国最强开源模型:Inkling-Small 登场,约 1/4 规模提供相近 AI 性能
Thinking Machines Lab 发布博文,宣布推出 Inkling-Small 模型,其性能媲美 Inkling,但规模降低至约四分之一。 此前报道,Inkling 号称“美国最强开源 AI 模...
这这这…翁荔光速回OpenAI上班了
刚刚,因健康离职Thinking Machines Lab的翁荔,光速重返了OpenAI。 据OpenAI内部人士透露,翁荔将领导一个「自进化」团队。该项目属于OpenAI内部优先级极高...
300 微秒调平 MoE 专家负载!小红书 UltraEP 逼近 94.3% 理想训推吞吐
AI 算力的下一个浪费重灾区,可能就在价值数百万美元的整柜系统内部。 过去,GPU 集群让人担心的是带宽不足、通信太慢。现如今,华为 Atlas 900 A3 SuperPoD...
MaxLinear 借 AI 基础设施东风,Keystone 平台推动业绩增长
MaxLinear 的基础设施业务正成为公司增长的主要引擎。在 2026 年第二季度,该业务首次成为公司最大的收入类别,同比飙升 145%,主要得益于超大规模客户对其光...
英伟达扩展Agent Toolkit,加入PhysicsNeMo与CUDA-X库
英伟达今日宣布扩展其NVIDIA Agent Toolkit,新增NVIDIA PhysicsNeMo和CUDA-X库作为面向工程领域的智能体工具与技能。这一更新旨在将AI智能体的能力从传统的...
英伟达详解 Vera CPU:专为智能体 AI 构建,88 个 Olympus 核心、1.2 TB/s LPDDR5X 内存
7 月 22 日消息,英伟达昨日(7 月 21 日)发布博文,从技术角度详细介绍了 Vera CPU,专为智能体 AI(Agentic AI)场景设计。 英伟达表示智能体 AI 将更多...
芯展速 AI90 固态硬盘显存化方案亮相:首 Token 延迟缩短至 1/50
7 月 20 日消息,芯展速 (GenStorAIGE) 在 WAIC 2026 展出了其 AI90 软硬件一体化 AI 推理加速方案。 其将高性能 SSD 纳入 GPU 显存体系,让 KV Cache 卸载...
NVIDIA 联手日本政经界发布全球首个国家级人工智能基础设施
7 月 16 日消息,NVIDIA(英伟达)当地时间今日宣布联手日本政治、经济两界发布全球首个国家级人工智能基础设施。 NVIDIA 将与 Noetra 合作基于 DSX 平台打...
千问开源模型32B要什么配置才好
随着大语言模型的快速发展,开源模型的普及为开发者提供了更多选择。其中,通义千问32B作为一款高性能的大规模语言模型,其开源版本在推理和训练方面具有显著...
津公网安备12011002023007号