SSOG注意力替代SDPA
研究者提出SSOG-Attention,用可分离高斯原子替代标准缩放点积注意力,将复杂度从O(N²·d)降至O(N·√N·d)。实验称其在CIFAR100优于SDPA,在ImageNet-1k上性能相当且收敛更快、显存效率更高。
研究者提出SSOG-Attention,用可分离高斯原子替代标准缩放点积注意力,将复杂度从O(N²·d)降至O(N·√N·d)。实验称其在CIFAR100优于SDPA,在ImageNet-1k上性能相当且收敛更快、显存效率更高。
社区讨论1.58-bit三值大模型是否回潮,提到 prismML、Deepgrove、Doses AI 等近期发布的27B或20B级三值模型。用户认为这类模型在移动端速度和专业场景上有潜力,但长程Agent编码能力仍是短板。
LittleLearner团队发布受控实验:从FineWeb-Edu过滤出88B token的LittleCurriculum,仅保留美国K-5小学课程范围内容,并从零训练0.6B、1.3B、5B模型。项目试图通过限制训练分布,研究大模型技能是被真正学习还是由更高阶知识诱发,网页提供5B托管模型可直接试用。
Reddit用户关注一个Qwen3.8-27B FP8去拒答版本的评测表:多组有害指令集拒答率从基础模型的64–99%降至0–6%。同时MMLU、GSM8K等能力指标变化小于1.3分,作者认为若第三方复现成立,将支持“拒答方向可被单独移除”的观察。
Frontier Red Team讨论新兴多智能体系统的模式与问题,指出AI代理将在共享代码库、市场等社会系统中发生大规模交互。文章认为现有机构以人类速度和监督为前提,未来可能出现人机混合或纯代理系统,带来新的安全与治理挑战。
Nature Reviews Drug Discovery发表综述,梳理AI在药物发现中的实际作用、当前瓶颈与未来路径。文章聚焦从靶点识别、分子生成到临床转化的进展,也强调数据质量、验证成本和监管仍是关键限制。
Anthropic发布博客说明Claude生成文本水印机制,以满足欧盟《AI法案》透明度准则对AI生成内容可识别性的要求。公司回应了水印如何嵌入、编辑后是否仍可识别以及对代码生成影响等用户关切,相关决定已在Claude用户社区引发争议。
文章认为,AI在高难数学问题上的优势未必主要来自更强推理,而可能来自近乎无限的外部符号工作空间。其核心观点是,大上下文和可持续展开的符号记忆,让模型能保留并操作远超人类工作记忆容量的中间步骤。
AICon深圳公布“面向多模态推理的高效长上下文建模”分享,主题围绕多模态大模型从能力提升转向效率与系统落地。内容将覆盖稀疏/线性注意力、KV-cache 压缩与缓存管理、并行解码,以及多模态 Agent、视频生成对齐和交互式世界模型评测等方向。
社区从 ms-swift 的代码提交中发现 Qwen3.8 35B-A3B 型号,暗示阿里可能准备推出新的混合专家模型。目前尚无官方发布信息,具体参数与上线时间待确认。
研究提出BDH-CQ,将上下文学习、记忆适应与推理统一到循环架构中。模型可通过未见任务的示例持续更新循环记忆,并在高维潜空间迭代求解,无需语言化中间过程或在推理时更新参数。
Google DeepMind发布Gemini 3.7 Flash,定位为面向编程和Agent的主力模型,距离3.6 Flash仅三周。报道将其与DeepMind管理层调整联系起来,认为谷歌正在加速重画模型性价比竞争线。
LiquidAI发布LFM2.5-VL-3B,这是一款3.1B本地视觉语言模型,支持llama.cpp、MLX、vLLM和WebGPU演示。其在部分视觉与屏幕理解基准上超过更大规模模型,并主打本地文档、屏幕任务与函数调用场景。
开发者发布oncothresh,用于在具体临床决策阈值上评估肿瘤AI模型,而非只看AUC等全局指标。该Python库和无代码仪表盘支持敏感性、特异性、PPV/NPV、Bootstrap置信区间、决策曲线净获益等指标,面向Ki-67、TMB、PD-L1等场景。
谷歌宣布 Gemini、Flow 等产品将允许用户移除 AI 生成图片、视频和音乐上的可见水印,覆盖 Nano Banana、Omni、Lyria 等模型。公司称隐形 SynthID 水印和 C2PA 元数据不受影响,显示其在创作可用性与AI内容标识之间调整策略。
Meta本周发布开权重AI模型Glimmer,允许用户下载并在自有硬件上运行。报道指出,这与其更强但仅通过API开放的Muse Spark形成对比,也呼应扎克伯格关于AI应“属于所有人”的公开表态。
社区认为,GLM-5.3、Qwen3.8 27B和DeepSeek V4 Flash等模型表明,持续后训练可在不重训基础模型的情况下实现显著性能跃升。沿用现有架构还有助于降低本地推理引擎的适配成本。
Qwen3.8发布并在Hugging Face上线模型集合,社区开始跟进下载、测试和部署。该系列是近期LocalLLaMA板块关注度较高的开放权重大模型更新。
Qwen3.8 27B模型发布并上线相关页面,社区开始评估其能力与本地部署表现。该事件延续近期中国开源/开放权重大模型密集更新趋势。
Qwen3.8 27B权重在社区发布,引发LocalLLaMA用户集中测试与讨论。多篇帖子关注其本地运行体验、推理风格和量化版本适配。