-
Akamai AI推理可降低60%推理时延,李昇:高度分布式架构带来的优势
截至目前,Akamai在全球130个国家拥有1200多个运营商网络、有超过4000个边缘节点、26个核心云计算节点和10个分布式节点。随着生成式AI应用数量的爆... -
AI推理时代,边缘计算成新战场
由于AI推理会为终端用户运行工作负载,响应速度和位置尤为关键,这意味着在边缘或边缘云环境中进行推理更有优势。对于企业而言,靠近节点的边缘云可以有效提高数据交互和... -
消息称华为即将发布 AI 推理领域突破性成果:降低对 HBM 依赖,提升国内大模型性能
据《科创板日报》报道,华为将于8月12日在2025金融AI推理应用落地与发展论坛发布AI推理突破性成果,或降低中国AI推理对HBM技术依赖,完善AI推理生态。#... -
华为发布 AI 推理创新技术 UCM:可实现高吞吐、低时延推理体验,计划 9 月开源
华为发布AI推理创新技术UCM,融合多类型缓存加速算法工具,可扩大推理上下文窗口,实现高吞吐、低时延的推理体验。该技术已在中国银联三大业务场景中应用试点,计划9...