
“ Sing Tao”记者Zhou Hao,实习生李YU于2025年8月12日,华为和中国Unionpay共同宣布了AI Field应用程序的最新申请 - AI AI的创新AI AI的UCM推理技术(推论内存数据经理)。 This technology is expected to reduce the hope of my country's AI technology in HBM technology (high bandwidth memory), improve understanding of the performance of the large model, improve the AI Inference ecosystem, and provide innovative solutions for the AI industry to break the "memory of the" memory ". Huawei said that as a KV cache-centric inference acceleration suite, UCM incorporates multi-type cache algorithm tools to manage在AI行业从“追求模型能力的限制”转变为“追求理性体验”时,在Cogniztawat TKEN过程中生成的KV缓存存储器数据直接与用户满意度和商业实施能力有关EEN测量模型价值的基本标准。 Citic建筑投资在2025年世界人工情报会议上发布的白皮书被教导说,AI正在经历从训练到推理的跳跃结构。以一家领先的国内互联网公司为例,代币消费几乎是每三个月的两倍,到5月底,有16.4万亿个令牌。在这种背景下,AI的推理经验已成为该行业的主要竞争。当前的外国模型最多为200个令牌/s(延迟5ms),而在我的国家,通常小于60令牌/s(延迟50-100ms)。推理速度间隔直接影响用户的速度体验,答案的准确性以及在方案中处理风景的复杂问题,例如智能接触,财务问题和答案。该空间的重要原因之一是计算和内存技术的基本力量的局限性。 HBM是一个为高性能处理器(例如GPU)提供高速数据访问的主要技术。随着GPU计算能力的增加,对AI行业的良好记忆需求不断增长。 2024年,美国在中国发布了HBM2E出口及以上筹码的禁令。该主题直接阻止了我国家的计算功率基础和研究和开发AI的过程,这进一步加剧了大型绩效模型的差距。在AI技术方面,自华为在2018年推出了首个Astron AI系列以来,它与11,000多个合作伙伴联手覆盖了全球5,600多家金融机构。 AI计算的基本架构Cann已实现了充分的开放资源,促进了AI技术的普及和变化,并加快了在各个行业中AI应用的实施和生态丰度。
i -edit︱ruiqi
华为报告将AI芯片出口到中EAST和东南亚允许外国公司体验公司新闻技术2025-07-11
华为AI实验室是窃的tumanggi,该实验室的使用是“行业实践”的使用是“行业实践”新闻2025-07-08
NVIDIA首席执行官Huang Renxun:中国的AI竞争对手已经改变,华为是一个有力的公司新闻2025-05-29