论文评测端侧LLM推理效率
一篇关于端侧LLM推理的文献评测对手机、NPU和GPU在持续负载下的性能与能效取舍进行了基准测试,设备包括RPi5-Hailo、iPhone 16 Pro、S24 Ultra和RTX 4050笔记本GPU。测试使用Qwen-2.5-1.5B 4bit等模型,关注端侧部署中的吞吐、能耗和稳定性问题。
一篇关于端侧LLM推理的文献评测对手机、NPU和GPU在持续负载下的性能与能效取舍进行了基准测试,设备包括RPi5-Hailo、iPhone 16 Pro、S24 Ultra和RTX 4050笔记本GPU。测试使用Qwen-2.5-1.5B 4bit等模型,关注端侧部署中的吞吐、能耗和稳定性问题。
乘联分会数据显示,6月全国乘用车市场零售160.2万辆,同比下降23.2%、环比增长6.1%。新能源乘用车零售100.7万辆,同比下降9.4%,常规燃油车零售60万辆,同比下降39%。
易居旗下深度智联发布“地产模数通”企业专属大模型一体机,并上线克而瑞地产AI分析师“小瑞”。该产品采用行业大模型、企业专属增强和CoWork AI平台三层架构,覆盖拿地可研、市场监测、REITs分析等16类不动产业务场景。
法国AI初创公司ZML发布免费LLM推理服务器ZML/LLMD,支持开源大模型在英伟达、AMD、Google TPU、Apple Metal和Intel Arc等多类芯片上运行。该工具旨在打破硬件生态壁垒,提升AI推理性能和芯片利用效率。
宁波挚达具身智能科技有限公司近日成立,注册资本2500万元,由上海挚达科技发展股份有限公司等共同持股。公司经营范围涵盖智能机器人研发、工业机器人制造、充电桩销售和新能源技术研发等。
SK海力士280亿美元美国存托凭证发行因认购订单超额数倍,将提前结束簿记建档。该交易被称为全球史上规模最大的新股发行之一,定价指引和配售结果将随后公布。
德业股份预计2026年上半年归母净利润26.68亿至27.28亿元,同比增长75.28%至79.22%。公司称海外储能市场需求旺盛,带动销售放量和业绩增长。
今年以来针对伦交所上市公司的收购报价总值达到新上市企业市值的27倍,引发对英国公开市场萎缩的担忧。安永数据显示,上半年伦交所仅完成7宗上市,合计募资5.772亿英镑。
爱范儿报道称,OpenAI安全研究人员Joshua Achiam已离职。他曾在2018年当面质疑马斯克追求AGI的安全性,并在马斯克起诉OpenAI案中出庭作证,成为OpenAI安全文化争议的代表人物之一。
东京商工调查数据显示,日本今年上半年负债1000万日元以上并破产的企业达到5346家。该指标12年来首次突破5000家,反映企业经营压力上升。
中国瑞林与BHP全资子公司签署南澳大利亚奥林匹克坝冶炼厂与精炼厂扩建项目设计及供货框架协议。合同金额约2.4亿澳元,折合人民币约11.23亿元,最终投资决策预计2027年下半年确定。
菲律宾总统府称,AWS提议未来15年内向菲律宾投资至多50亿美元。该计划将用于增强数字基础设施、创造就业,并为企业、初创公司和政府机构提供云服务。
必和必拓位于西澳Port Hedland铁矿石出口码头的运营和维护工人计划于7月16日举行8小时罢工。该港口是全球最大铁矿石出口港,工会称员工要求更符合技能和工作条件的协议。
支付宝宣布“碰一下”完成AI升级,将3000万线下触点纳入AI经营网络。百万级商家侧设备升级为“碰设备Agent”,并推出面向中小商家的“碰万物Agent”平台及开发者“AI开放底座”。
AI芯片公司SambaNova完成10亿美元F轮首关,估值达110亿美元,由General Atlantic领投。该公司此前刚发布SN50芯片并完成3.5亿美元E轮,显示AI算力硬件融资热度仍高。
Ars Technica报道称,研究人员发现9款热门AI工具可被提示注入等方式滥用,用于协调大规模僵尸网络。事件凸显AI代理处理邮件、代码和第三方内容时难以区分可信与恶意指令的根源性安全风险。
三星电子支持的韩国 AI 芯片初创公司 Rebellions 计划明年第一或第二季度在韩国 IPO。公司称已开始产生实际营收,并正与摩根大通、三星证券承销团队合作筹备上市。
Piper Sandler 预计甲骨文 OCI 云基础设施业务在 2027 财年收入有望超出市场预期,理由是资本开支正加速转化为产能和收入。该机构维持甲骨文“超配”评级,目标价 225 美元。
马斯克表示,SpaceX AI将于明日向公众开放Grok4.5。若属实,这将是其AI模型面向更广泛用户开放的重要节点,但当前信息仍较简略。
海光信息将在光合组织2026智能计算应用大会集中展示“云边端”全系算力场景。这是其基于CPU与DCU双芯底座,面向工业现场和行业应用端侧算力布局的首次集中呈现。