SevenTnewS

混合专家模型

7 published articles

xAI / GrokFeatured3 min read

Grok 4.5

Cursor的Grok 4.5由AI智能体而非人类构建, , 这才是真正的新闻。

Cursor的Grok 4.5是一个混合专家模型,使用由早期AI智能体(而非人类)创造的环境中的强化学习进行训练。它能处理软件工程、数据科学、金融和法律等领域复杂且耗时长久的任务,现已可用。

2026-07-10

Qwen / 阿里巴巴Featured4 min read

产品组合策略

阿里Qwen正在为每一项AI任务构建专属模型,而非一统天下

阿里云Qwen团队悄然发布了一个35B MoE智能体世界模型、三个新的ASR模型以及一份图像生成强化学习报告,显示出在AI模型竞赛中以广度而非奇观为核心的战略押注。

2026-07-09

Google DeepMindFeatured4 min read

谷歌DeepMind

谷歌DeepMind的Gemma 4:260亿参数推理引擎,单GPU即可运行

谷歌DeepMind的Gemma 4技术报告详细介绍了一系列开权重模型,采用混合专家架构、100万token上下文窗口和多模态视觉能力。此次发布标志着谷歌DeepMind的一项战略举措:让开发者无需依赖专有API成本即可获得前沿推理能力。

2026-07-09

人工智能3 min read

人工智能

Aleph Alpha新发布的超级内核库将MoE推理延迟降低200%

Alpha-MoE将多个操作融合到单个持久内核中,在vLLM和SGLang中相比基于Triton的内核实现了高达200%的推理速度提升,目标为FP8精度的MoE模型。

2026-07-09

实验室与研究5 min read

人工智能

Ai2推出EMO:模块化AI从数据中自然涌现,无需人为规则

Ai2的新型MoE模型EMO采用新颖的训练方法,让专家模块从数据中自然涌现,实现选择性使用专家且性能损失极小。该模型在基准测试中与标准MoE性能相当,同时提供了显著改善的模块化能力。

2026-07-07

人工智能2 min read

深度解析

Aleph Alpha 为 DeepSeek 构建理论推理模型:从硬件原语推导性能

Aleph Alpha 为 DeepSeek v3 创建了一个理论推理模型,用于从硬件参数估算吞吐量,分析不同 GPU 配置下的权衡,帮助实践者优化大型 MoE 模型的性能与成本。

2026-07-05

DeepSeek2 min read

大语言模型推理优化

Aleph Alpha 构建理论推理模型,从硬件原语解码 DeepSeek V3 性能

Aleph Alpha 的理论模型仅凭硬件参数即可预测 DeepSeek V3 的推理性能,揭示 GPU 数量和互连带宽如何改变计算、内存和通信之间的瓶颈。

2026-07-04