2025年02月14日 星期五
2月10日,清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新,成功打破大模型推理算力门槛。此前,拥有671B参数的MoE架构大模型DeepSeek-R1在推理时困难重重。推理服务器常因高负荷宕机,专属版云服务器按GPU小时计费的高昂成本让中小团队无力承担,而市面上的"本地部署"方案多为参数量大幅缩水的蒸馏版,在本地小规模硬件上运行满血版 DeepSeek-R1 被认为几乎不可能。 此次KTransformers项目更新带来重大突破,支持在24G显存(4090D)的设备上本地运行 DeepSeek-R1、V3的671B满血版。其预处理速度最高可达286 tokens/s,推理生成速度最高能达到14 tokens/s。甚至有开发者借助这一优化技术,在3090显卡和200GB内存的配置下,使Q2_K_XL模型的推理速度达到9.1 tokens/s,实现了千亿级模型的 "家庭化" 运行。 此外,该项目v0.3预览版还将整合Intel AMX指令集,进一步提升CPU预填充速度,最高至286 tokens/s,相比llama.cpp快了近28倍,为长序列任务带来秒级响应。同时,KTransformers提供兼容Hugginface Transformers的API与ChatGPT式Web界面,降低上手难度,其基于YAML的"模板注入框架"可灵活切换多种优化方式。
展开每经AI快讯,2月14日,*ST宁科公告,公司及实际控制人虞建明收到《行政处罚事先告知书》。公司股票自2025年2月17日起将被上交所叠加实施其他风险警示。叠加实施其他风险警示后,公司股票简称仍为"*ST宁科",代码仍为"600165",交易日涨跌幅限制仍为5%,股票继续在风险警示板交易。
展开每经AI快讯,2月14日,信达证券公告,公司收到控股股东中国信达通知,财政部拟将其所持有的中国信达的股权全部划转至中央汇金投资有限责任公司。划转完成后,公司实际控制人将由财政部变更为汇金公司。
展开每经AI快讯,2月14日,统一股份公告,公司于2025年2月14日收到间接控股股东中国信达通知,财政部拟将其所持有的中国信达股权全部划转至中央汇金投资有限责任公司。划转完成后,公司实际控制人将由财政部变更为汇金公司。
展开每经AI快讯,2月14日,光环新网公告,公司控股股东百汇达计划在2025年3月10日至2025年6月9日期间,通过集中竞价和大宗交易方式减持不超过5392.77万股,占公司总股本比例不超过3%。
展开每经AI快讯,宏和科技公告,公司董事长、总经理毛嘉明因个人资金需求,计划以集中竞价交易方式减持32.07万股,占公司总股本0.0365%,占其持有公司股份总数的24.9940%。减持价格将按市场价格确定,减持期间为自公告披露日起15个交易日后的3个月内。
展开每经杭州2月14日电(记者叶晓丹)2月14日,杭州群核信息技术有限公司的控股公司Manycore Tech Inc.(以下简称"群核科技")正式向港交所递交上市申请,摩根大通、建银国际为联席保荐人。 作为"杭州六小龙"之一的群核科技,以人工智能(AI)技术和专用图形处理单元(GPU)集群驱动,旗下产品包含空间设计软件酷家乐、海外版产品Coohom,以及为AIGC、具身人工智能、AR/VR、机器人等提供虚拟环境训练的群核空间智能平台SpatialVerse。
展开每经AI快讯,证监会对中泰证券股份有限公司采取出具警示函措施。经查,证监会发现中泰证券存在以下违规行为:一是尽职调查不规范,部分债券项目未对可能影响发行人偿债能力的财务会计信息等进行充分核查和分析;二是发行承销不规范,部分债券项目未充分核查关联方认购情况,个别债券项目未对簿记现场进行严格管理,个别债券项目发行过程中存在违反公平竞争的行为;三是受托管理履职不到位,部分债券项目未能有效督促发行人及时履行信息披露义务;四是在银行间债券市场部分项目中,未能严格规范工作人员执业行为,督促工作人员勤勉尽责。
展开每经AI快讯,2月14日,立昂微公告称,公司拟与嘉兴市南湖高新技术产业园区管理委员会签署《年产96万片12英寸硅外延片生产项目投资协议书》,约定公司在嘉兴市南湖高新技术产业园区投资"年产96万片12英寸硅外延片项目"。
展开每经AI快讯,2月14日,中国证监会对民生证券股份有限公司采取责令改正措施。经查,证监会发现民生证券存在以下违规行为:一是债券类业务内部控制不完善,个别项目质控内核意见跟踪落实不到位;二是承销尽调不规范,部分项目未对可能影响发行人偿债能力的事项进行充分关注和核查;三是受托管理履职尽责不到位,个别项目未对存续期影响发行人偿债能力事项进行及时关注并督促信息披露。
展开