每经AI快讯,最新数据显示,国内日均词元调用量已突破500万亿,算力市场需求暴涨。智能算力短期补不上,只能向存量要效益。2025年,郑纬民院士团队研发的大模型推理系统Mooncake拿下埃里克・里德尔最佳论文奖,核心就是用PD分离技术盘活存量算力,用软件调度把现有算力用足。据悉,P负责“读入用户问题”,D负责“生成回答”。传统方式下,同一批算力轮流干两件事;PD分离让一组只读题,把结果传给另一组专门答题。同样硬件规模下,系统多承接75%的用户请求,长文本吞吐能力提升五倍以上。(央视财经)
上一篇
中国U19击败韩国U19 夺得熊猫杯冠军
下一篇
美国10月份工业产值下降0.4%
每日经济新闻客户端
National Business Daily Mobile Version
霍尔木兹海峡,四艘油轮起火;伊朗宣布捕获美军MQM170无人机;乌克兰首都响起强烈爆炸声;美股收跌,国际油价大跌,金银下挫丨每经早参
英伟达董事会 并未考虑黄仁勋重返CEO
英伟达跌超4%,董事会目前无意让黄仁勋重返CEO职位,芯片、存储及光通信板块大跌,闪迪、Lumentum跌8%;美国加州起诉OpenAI,指控AI模型测试失控并危害公共安全|全球科技早参