据 Tom’s Hardware(https://www.tomshardware.com/tech-industry/artificial-intelligence/amd-and-cerebras-partner-on-low-latency-high-throughput-ai-inference-epyc-processors-in-helios-rack-scale-infrastructure-paired-with-cerebras-wafer-scale-engine-wse-solutions)报道,AMD与Cerebras宣布建立合作伙伴关系,开启AI推理系统的新纪元。核心在于将AMD的EPYC处理器集成于Helios机架级基础设施中,并搭配Cerebras的Wafer-Scale Engine(WSE),这是市场上最大且性能最强的AI加速器之一。
面向AI应用的强大组合
AMD的Helios平台是一款模块化机架级解决方案,基于最新的EPYC处理器,专为数据密集型工作负载设计。通过集成Cerebras的Wafer-Scale Engine,该芯片拥有极大的芯片面积和高计算能力,专门针对AI工作负载进行了优化,从而构建出既能实现高吞吐量又具备极低延迟的AI推理基础设施。该组合主要满足企业和科研机构对实时运行大型AI模型的需求,应用领域包括自动驾驶、医学影像处理和自然语言处理等。Wafer-Scale Engine能够高效处理拥有数十亿参数的复杂神经网络,而EPYC处理器则负责数据准备、控制及其他计算任务。
Bild: Brett Sayles / Pexels · Pexels · Pexels Lizenz: kostenlos nutzbar, Attribution freiwillig