SkewAdam降低MoE训练显存
研究者发布SkewAdam优化器预印本与代码,面向MoE训练中的优化器状态显存瓶颈。其按参数类型分层分配状态精度,声称可将优化器状态内存降低97%,使6.7B MoE可在40GB GPU上训练。
研究者发布SkewAdam优化器预印本与代码,面向MoE训练中的优化器状态显存瓶颈。其按参数类型分层分配状态精度,声称可将优化器状态内存降低97%,使6.7B MoE可在40GB GPU上训练。
地平线与大众汽车集团通过CARIZON进一步深化合作,聚焦AI基座大模型、C7H系统级芯片和GAIA世界模型数据平台。双方计划将相关能力用于大众L3/L4自动驾驶落地,L3最早预计2027年下半年交付。
王兴兴在世界互联网大会上表示,具身智能的“ChatGPT时刻”有望在两三年内到来,机器人将在更多陌生场景中直接工作。这个判断延续了他对人形机器人从展示走向实用的乐观预期。
OpenAI介绍OpenAI Presence,这是一套企业AI智能体平台,帮助组织部署可信的语音和聊天代理,用于客户服务及内部工作流。该产品强化了OpenAI面向企业流程自动化和Agent落地的产品线。
腾讯全场景创意智能体妙境 Tencent Design Miora 国际版全量上线,面向全球用户开放。用户可通过自然语言生成图片、品牌视觉全案、视频和3D资产,并支持标注、局部修改与框选编辑。
Nanbeige Lab发布Nanbeige4.2-3B,采用Looped Transformer架构复用层以提高有效深度,并声称在SWE-Bench Verified、SWE-Bench Pro等编码与智能体任务上超过部分9B/12B模型。其定位是轻量级本地个人助手,但相关成绩仍需社区复现验证。
Poolside 低调发布 Laguna S 2.1,这是一款总参数 118B、每 token 仅激活约 8B 参数的 MoE 模型,含 256 个路由专家和 1 个共享专家。文章称其在 Terminal Bench 2.1、SWE Bench Multilingual 等基准上表现优于更大规模模型,推理成本接近 8B 稠密模型。
OpenAI承认,其模型在一次前所未有的网络安全事件中被用于入侵另一家公司。事件把模型能力外溢、工具调用安全和企业防护边界再次推到台前。
Google 一口气发布 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三个新模型,主打更低 token 消耗、更低价格和更适合大规模 AI agent。官方称 3.6 Flash 在代码与多步任务上更高效,但外界对 Gemini 系列的实际体验评价仍偏分化,网友调侃也很多。
Meta正在部分国家试点AI讲故事应用StoryKit,可按自定义角色、场景、教育主题和音乐生成儿童故事书。公司称该应用面向18岁以上用户,内置AI安全过滤且无社交功能,用于观察家长对个性化睡前故事的接受度。
韩国首尔大学团队开发出基于AI的QLED制备工艺设计平台,可反向预测量子点薄膜的最佳溶剂组合与制备条件。该方法应用到器件后,效率提升约一倍,寿命延长超过40倍。
Hacker News热帖称,Kimi K3在约1000个真实Agent任务中与闭源Fable 5竞争力接近,且两者能力互补。作者提出通过任务路由在成本与性能间取得更优组合,凸显开放模型在前沿Agent场景中的性价比。
《第九区》导演Neill Blomkamp发布13分钟科幻短片《Nightborne》,全部镜头由字节跳动Seedance 2.0文生视频生成。该项目来自其AI制作公司Barley Studios,被其称为探索生成式AI电影能力的测试,但The Verge批评成片质量低劣。
文章称,AI又攻克了一道百年数学难题,引发数学界对研究范式变化的担忧。学者们一方面承认进展惊人,另一方面也在讨论AI正在如何重塑数学发现的速度与方式。
一篇新论文提出“program-of-layers(PoLar)”框架,认为预训练层可按输入动态跳过或循环,以在推理时灵活权衡计算量与准确率。作者在Llama和Qwen等开源模型上验证了该方法,部分输入可用更短执行获得相同甚至更高精度。
OpenAI与Hugging Face披露了一起发生在模型评测过程中的安全事件,并分享了初步调查发现。事件显示评测阶段也可能暴露出高级网络能力,相关经验对防御方有参考价值。
Hugging Face发布物理AI仿真概览,指出机器人与具身AI训练的核心瓶颈在于真实交互数据稀缺。文章梳理物理仿真在运动控制、策略训练和评估中的作用,并强调仿真环境是降低数据采集成本、提升安全性的关键基础设施。
帖子称微软正在Copilot中测试月之暗面Kimi模型,并由此讨论AI产品进入“模型可替换”阶段。若属实,反映大厂AI应用可能更多采用多模型供应链。
poolside 释出了 Laguna-S-2.1,社区将其视作一个值得关注的 120B 级开源模型候选。项目同时提供 GGUF 版本,并给出可配合 llama.cpp 自定义分支使用的下载渠道。
Nanbeige发布3B级紧凑型 agent 模型 Nanbeige4.2-3B,采用 Looped Transformer 通过复用层数提升容量,而不增加参数量。该模型主打通用 agent 能力和代码 agent 任务,在社区帖中被认为以较小体量获得了不错表现。