谁是谁的 5.4 倍?第 5 代服务器芯片 AI 罗生门,英特尔、AMD 各执一词

AI新闻1个月前发布 SUYEONE
175 0 0

IT之家 6 月 15 日消息,英特尔昨日发布博文,驳斥了 AMD 关于其第 5 代 EPYC“Turin”处理器在处理 AI 负载任务上强于英特尔第 5 代至强处理器的观点。

英特尔表示,其 64 核的至强 Platinum 8529+ 处理器在正确优化之后,相同工作负载下的性能可超过 AMD 最新的 128 核数据中心 CPU。

AMD 公司在 2024 台北国际电脑展上,发布了最多配备 195 个 Zen 5 核心的第 5 代 EPYC 处理器,新品将作为 Epyc 9005 系列上市销售,专为计算、云、电信和边缘工作负载设计。

虽然这些芯片预计要到今年晚些时候才会投放市场,但 AMD 展示的基准测试表明,这些处理器在人工智能吞吐量工作负载中的速度将超过英特尔的 Emerald Rapids 系列。

AMD 表示在运行基于 LLAMA 2 的聊天机器人方面,双路 EPYC Turin 处理器的性能,是英特尔至强 Platinum 8592+ CPU 的 5.4 倍。

据英特尔称,AMD 没有披露这些基准测试所使用软件配置,而英特尔自己的测试表明,在执行相同任务时,至强芯片比 EPYC 处理器更快。

AMD 表示在 Llama 2-7B 中,双路配置的第五代 EPYC CPU(各有 128 个核心)性能为每秒 671 个词元(tokens),而双路第五代至强 Platinum 8592+ 芯片(各有 64 个核心)为每秒 125 个词元。

IT之家附上新闻稿配图如下:英特尔使用其 PyTorch 的英特尔扩展(P99 Latency),结果同样是 5.4 倍,只不过结果完全相反,至强处理器每秒输出 686 个词元,而 AMD 为 125 个。

英特尔还声称,与 AMD 在 Computex 上展示的基准测试相比,其至强芯片在翻译和总结工作负载中的性能分别提高了 1.2 倍和 2.3 倍。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

Source link

© 版权声明

相关文章

暂无评论

暂无评论...
☺一键登录开启个人书签等功能!