玄铁C950跑Qwen3.8引热议
社区消息称阿里 RISC-V CPU 玄铁 C950 可运行 Qwen-3.8 27B,并达到约 30 tokens/s。若结果可靠,说明本地大模型推理在非 GPU 硬件上的可行性进一步提升,涉及 RISC-V、CPU 推理和国产算力生态。
社区消息称阿里 RISC-V CPU 玄铁 C950 可运行 Qwen-3.8 27B,并达到约 30 tokens/s。若结果可靠,说明本地大模型推理在非 GPU 硬件上的可行性进一步提升,涉及 RISC-V、CPU 推理和国产算力生态。
AI 芯片初创公司 Etched 宣布再融资 7 亿美元,由 Jane Street 领投,估值一个月内从 103 亿美元翻倍至 210 亿美元。公司主打面向推理的“frontier inference clusters”,称通过自研计算与系统组件提升 AI 推理效率,反映资本继续押注英伟达之外的专用 AI 算力路线。
社区消息称,Intel 下一代移动端处理器 Razor Lake 可能采用台积电 N2X 制程,并把 bLLC 带到笔记本 SKU。若属实,这意味着 Intel 在高端笔电芯片上继续借助外部先进制程,并强化缓存配置来提升性能。
三星表示,Claude Code 可能把部分芯片设计工作从数周缩短到数天。报道同时指出,这类工具仍会犯严重错误,实际落地仍需人工把关。
Reddit 用户发现,CDW 页面上 PNY 的 RTX Pro 6000 价格从 1.6 万美元上调到 1.9999 万美元,疑似出现渠道报价异常或提前泄露未来定价。该卡面向专业图形和算力场景,价格变化也引发对高端 GPU 市场供需的讨论。
Hugging Face 博文介绍一种约束感知 GPU 分配器,在相同集群和工作负载下,相比 FIFO 调度最高提升 33 个百分点 GPU 利用率。实验还显示优先级加权产出最高提升 105%,强调调度顺序对算力效率的影响。
华为2012实验室专家将在AICon深圳分享盘古模型在昇腾平台上的训练与推理通信优化实践。其方案针对MoE AllToAll通信和超长上下文KV Cache传输瓶颈,分别在昇腾950拓扑适配与Omni Cache卸载中实现10%以上性能提升。
用户在ROG Flow Z13的Ryzen AI Max+ 395与128GB统一内存上运行Qwen3.8-27B Q8_0,使用llama.cpp ROCm、Q8 KV缓存和MTP推测解码。其称生成单页飞行模拟器表现突出,速度约9-19 tok/s,MTP接受率可达97-99%。
Reddit用户讨论英伟达A100 GPU虽已发布六年,但仍因AI推理、云租赁和企业存量部署保持商业价值。该话题反映AI算力需求持续支撑上一代高端加速卡的生命周期。
据报道,英伟达大幅降低其可能为OpenAI数据中心基础设施融资提供担保的规模,原先相关安排最高可达2500亿美元。此举显示AI算力扩张中的融资风险和资本承诺正在被重新评估。
Intel副总裁Robert Hallock称,Nova Lake新CPU核心将首先面向桌面平台推出,而非数据中心。其表态暗示Intel希望借发烧友市场展示与AMD的性能/价值对比,但目前仍缺少具体规格和上市时间。
报道估算,到2028年AI数据中心年耗水量可能达到1万亿升。随着模型训练和推理规模扩张,算力基础设施的电力、水资源与环境成本正成为监管和产业关注点。
用户在 128GB M5 Max 上测试 Qwen3.8 27B,给出了不同上下文长度下的 token/s 数据。结果显示 0-50k 上下文速度下降不大,50k 之后才明显变慢,适合评估本地大模型的实际吞吐。
SK海力士据报将在美国印第安纳州动工建设一座造价38.7亿美元的AI芯片封装工厂,继续加码先进封装产能。该项目反映出AI芯片供应链正向美国本土进一步延伸。
DeepX披露其AI芯片在量产首年已拿下77笔订单,合计约1300万美元,覆盖全球多个市场。对一家新进入者来说,这说明边缘AI芯片商业化已开始落地,但规模仍处早期。
报道指 Nvidia 正缩小原本高达2500亿美元的 OpenAI 数据中心担保计划,显示双方在AI基础设施投入上的安排出现调整。这类融资与算力合作变化,仍是当前AI产业链的重要信号。
法国初创公司Kog试图通过软件优化,提高AMD MI300X、英伟达H200等标准数据中心GPU的单请求解码速度。其方案旨在不更换专用芯片的情况下缓解AI推理速度与成本瓶颈。
亚马逊、谷歌、Meta和微软正押注天然气为AI数据中心供能。研究机构Noreva预测,超大规模数据中心需求将与供应增速放缓、液化天然气出口增长叠加,可能推动美国部分地区天然气价格上涨至三倍,显著抬高AI算力成本。
乌克兰方面称,在俄罗斯S-71“Monochrome”巡航导弹中发现了英伟达Jetson芯片。该嵌入式计算平台的出现可能意味着武器采用了AI视觉或自主处理技术,但具体用途仍待确认。
一名硬件价格追踪者称,其固定追踪欧盟 9 国 25 家以上零售商的 176 款 GPU,过去 30 天均价从 808.57 欧元升至 963.56 欧元,涨幅约 19.2%。作者强调采用固定样本以避免低价型号缺货导致的统计偏差,价格上涨自 7 月下旬开始持续攀升。