主流AI工具可被诱导组建僵尸网络
Ars Technica报道称,研究人员发现9款热门AI工具可被提示注入等方式滥用,用于协调大规模僵尸网络。事件凸显AI代理处理邮件、代码和第三方内容时难以区分可信与恶意指令的根源性安全风险。
Ars Technica报道称,研究人员发现9款热门AI工具可被提示注入等方式滥用,用于协调大规模僵尸网络。事件凸显AI代理处理邮件、代码和第三方内容时难以区分可信与恶意指令的根源性安全风险。
马斯克表示,SpaceX AI将于明日向公众开放Grok4.5。若属实,这将是其AI模型面向更广泛用户开放的重要节点,但当前信息仍较简略。
OpenAI前研究员田永龙近期加入腾讯大语言模型部,将参与VLM视觉语言模型研发。这是腾讯继引入姚顺雨后,再次吸纳OpenAI背景核心AI人才,显示其大模型研发团队持续扩张。
蚂蚁灵波科技升级并开源具身基座模型LingBot-VLA 2.0。新版本在预训练阶段融入6万小时真实物理数据,覆盖17个机器人品牌和20种构型,提升构型泛化、自由度支持和落地效率。
报道称特朗普政府已解除对OpenAI GPT 5.6的限制,美国商务部批准其广泛推出该先进模型。若消息属实,这将影响OpenAI模型发布节奏及美国AI监管边界。
36氪横评Seedance 2.0等6款主流AI视频生成工具,认为行业已从可用走向专业化。Seedance 2.0因多模态输入、分镜理解和主体迁移能力被列为重点代表。
Reddit机器学习社区讨论一项关于LLM“知而不说”差距的实验:中层隐藏状态的线性探针可较好区分模型答对与答错,AUROC约0.83至0.88,而模型口头输出的置信度接近随机。作者认为问题更像内部信号到输出的路由缺陷,并尝试用极简桥接方法让模型更准确表达置信度。
OpenAI首席未来学家Joshua Achiam宣布将于本月离职,结束近九年任期。他称离开并无具体原因,而是长期思考后的决定,并表示未来仍将继续推动AI带来的社会与科学愿景。
以色列理工学院和特拉维夫大学团队开发BetaDescribe,可将蛋白质序列转化为文字描述,自动概括功能和特性。相关成果发表于《美国国家科学院院刊》,有望辅助蛋白质功能理解、药物研发和新材料设计。
Meta推出由Superintelligence Labs打造的Muse Image模型,已用于Meta AI、Instagram和WhatsApp的图像生成工具,并将登陆Facebook和Messenger。该模型可与Muse Spark大语言模型协同,先理解提示、联网搜索并规划生成,还支持把其他Instagram用户带入AI照片,引发隐私与授权关注。
Decagon CEO提出企业AI采用的新解释:前沿模型用于验证高价值场景,成熟后再迁移到更便宜的开源或轻量模型。因此开源AI的普及未必直接侵蚀Anthropic等前沿模型厂商收入,而是形成应用生命周期分工。
有研究提出将模型微调限制在由可信LoRA适配器学习出的子空间内,使模型无法学习部分恶意更新方向。该方法面向用户数据、外部数据或生成数据参与微调时的投毒风险,试图在保留有效适配能力的同时降低隐藏触发行为被写入模型的可能性。
一项新研究在28个真实研究、78个选择任务中测试LLM能否替代真实用户反馈,结果模型与人类多数选择一致率仅53%,接近随机猜测。加入详细人设和思维链也几乎没有改善,对“合成用户”用于产品测试和偏好研究提出质疑。
InfoQ文章称,随着网站访问者从人类扩展到AI Agent,内容分发网络需要适配Agent自动选择与访问场景。CDN能力正从面向人类浏览体验,延伸到面向AI应用和自动化访问的分发优化。
Claude官方账号称,将把所有付费计划对Fable 5的访问权限延长至7月12日。该消息在Hacker News引发较高讨论,社区关注其能力、定价与产品节奏。
北京智源人工智能研究院发布多模态表征世界模型悟界·RoboBrain Orca,强调通过统一潜在表征建模视觉、语言、事件和任务意图。该模型将世界学习拆分为无意识学习与有意识学习,面向具身智能和通用世界基础模型能力建设。
扎克伯格承认AI的发展和应用效果并未完全按其最初设想推进,显示Meta在AI战略落地中仍面临产品体验、商业化或用户接受度挑战。该报道属于AI巨头战略反思类信息,但原始条目缺少具体细节。
AAAI论文提出QC-MHM方法,面向带有“之前、期间”等时间约束的时序知识图谱问答。该方法针对预训练模型忽视时间词、图结构利用不足等问题,试图提升复杂时间条件下的事实检索与推理准确性。
Two Minute Papers介绍DeepSeek新论文,称其提出可显著提升AI推理或训练效率的“速度优化”方法。该进展若被验证,可能降低大模型运行成本并提升部署效率。
Anthropic 的通用办公智能体 Claude Cowork 从桌面端扩展到 Web 和移动端,面向 Max 订阅用户开放。用户可跨设备发起、跟踪和接续任务,显示 Anthropic 正将编码智能体能力推进到更广泛的知识工作场景。