同一GRPO配方在三款自训LLM上分化
作者用纯 PyTorch 从零训练 3 个不同规模的 LLM,再统一做 SFT 和 GRPO 后训练,发现预训练损失随模型更大和架构更新而下降,但 GRPO 反而让其中两款模型变差。结果显示,GRPO 的效果不只取决于规模,架构和训练细节也会显著影响后续强化阶段的收益。
作者用纯 PyTorch 从零训练 3 个不同规模的 LLM,再统一做 SFT 和 GRPO 后训练,发现预训练损失随模型更大和架构更新而下降,但 GRPO 反而让其中两款模型变差。结果显示,GRPO 的效果不只取决于规模,架构和训练细节也会显著影响后续强化阶段的收益。
Akamai 报告称,2025 年全球电商 Bot 访问量已超 17 万亿次,亚太增速超过 63%,API 攻击也首次超过传统 Web 攻击。随着 AI Bot、AI Fetcher 和 AI Agent 增多,企业的安全重点正从单纯拦截爬虫转向识别来源、意图和业务影响。
中国“机器人第一股”宇树科技登陆科创板,开盘价一度冲至1100元/股,较发行价暴涨近630%,收盘报845元。公司靠四足机器狗和人形机器人打开市场,2025年已实现16.99亿元营收、5.91亿元扣非净利润,成为具身智能商业化的重要标志。
AI 会计初创公司 Rillet 完成 1 亿美元 C 轮融资,估值达 10 亿美元,由 Iconiq 领投,a16z 和红杉等老股东跟投。公司面向 ERP 与财务记账场景,用 AI 自动拉取 Salesforce、Brex 等数据源,称客户数超过 600 家且 ARR 三个月翻倍。
微软和亚马逊最新财报显示,基于Arm架构的定制CPU正从技术尝试转向超大规模云计算的核心组件。微软强调智能体负载里CPU和GPU同样重要,亚马逊则披露其芯片业务年化营收已超250亿美元,Graviton5采用速度继续加快。
Google赢得了对Spirit Airlines大规模员工与工作记录数据的竞拍,数据本身不含乘客信息,但覆盖范围接近整家航空公司的雇佣档案。为降低识别风险,Google同意在法庭指定监督人监督下完成去标识化,并承诺不主动重识别数据。
尼尔森将在秋季电视季前升级收视数据采集,把家庭样本用户佩戴的 Portable People Meter Wearables 纳入共同观看数据。此举旨在提升流媒体时代跨设备、多人观看场景的测量准确性。
美国FCC撤销了拜登时期设立的千兆速率目标,称该目标对较慢技术并不“中立”。监管口径转向以当前100Mbps下行、20Mbps上行为主要宽带评估基准。
作者基于约 180 万个拟合的 SIREN 模型,重新审视“权重空间语义可读性”为何在共享初始化时更好、独立训练后却显著下降。帖子认为,参数对称性可能是原因之一,但未必足以完整解释这种泛化差异。
多项民调显示,美国公众对AI的担忧正在上升,认为“更担心而非兴奋”的比例明显增加。报道还提到,AI数据中心对地方政治和年轻人的信任问题,正在开始影响行业形象。
OpenAI重申,符合条件的 API 客户可使用 Zero Data Retention,用于前沿模型时请求与响应不被保存。公司同时预告 Private Safety Processing,试图在不牺牲数据隐私的前提下做更强的安全处理。
Google为Search和Gemini推出一批新的学习功能,包括AI生成的交互式视觉内容、3D模拟、定制练习测验和学生中心页面。公司希望借此把Gemini推成学生学习和备考时的首选AI助手。
多名安全研究人员称,OpenAI突然撤销其 Trusted Access for Cyber(TAC)计划权限,ChatGPT Cyber 页面显示身份无法验证或账号暂不符合资格。TAC原为经审核研究人员提供较少网络安全限制的高级模型访问权限,OpenAI方面疑似因内部错误导致此次撤销。
GitHub 新项目 watermarks-remover 获 533 stars,主打移除多厂商 AI 来源与溯源痕迹。其功能包括 Unicode 文本清洗、统计改写,以及从 PNG/JPEG/SVG/PDF/DOCX/HTML/MD 中剥离 C2PA 和元数据。
继首次轨道级助推器回收后,中国又有第二家发射企业成功实现类似回收,显示可重复使用火箭能力正在加速成形。报道将其视为中国商业航天追赶SpaceX式技术路线的又一步进展。
Valve 意外泄露多段 Steam Frame 视频,展示其开箱、设置流程与配件细节。该 VR 头显支持 PC 串流和本地运行,配备单眼 2160×2160 LCD、骁龙 8 Gen 3 与最高 110 度视场角。
开发者逆向解析了RK3588 NPU的寄存器格式,做出一套开放编译器和运行时。现在可直接从PyTorch、ONNX和JAX把GPT-2、SigLIP跑到这颗NPU上,不再依赖厂商SDK。
llama.cpp PR #27342 引入 dflash2 后,社区测试显示 Qwen3.8 27B 在 RTX 6000 上中位解码速度可达 140.6 tok/s,相比 baseline 约 3 倍。测试者指出不同任务增益差异明显,但对本地大模型推理优化有实际价值。
Two Minute Papers 转述社区对 DeepSeek V4 Pro 0813 的测试与反馈,认为它在一些任务上的表现已让闭源模型显得不再稳占上风。相关说法主要来自 X 上的实测帖和二手整理,仍需要更多独立基准验证。
GrapheneOS称,Google对部分源代码不再提供Git标签获取方式,改为通过Google Drive分发。社区担忧这会削弱源码可验证性、自动化构建流程与开源供应链透明度。