Intel 发布 GenAI 示例 v1.5 - 同时在旧款 Xeon CPU 上验证此 AI 展示

Phoronix
Intel 发布了 GenAI 示例 v1.5,展示了新功能,同时在旧款第三代 Xeon CPU 上验证了性能。

内容摘要

作为 OPEA 项目的一部分,Intel 工程师发布了生成式 AI 示例 v1.5,这是一个开源集合,展示了企业 AI 开放平台 (OPEA) 的能力以及 Intel 在生成式 AI 方面的硬件优势。关键更新包括用于自动化重复性网络任务的新用例、仲裁听证会后助理应用程序、Polylingua 翻译服务、兼容 OpenAI API 的端点、新的 GenAI 微服务、通过更新的 LLM-Scaler-vLLM 容器实现更快的 Intel Arc GPU 支持,以及在 GenAI Studio 中支持拖放式微调应用程序创建。有趣的是,此版本验证的硬件仍然依赖于上一代 Intel 产品,特别是 Intel Gaudi Gen2 AI 加速器和第三代 Xeon 可扩展处理器(2021 年的 Ice Lake),而不是最新的 Gaudi 3 或当前 Xeon 平台。

(来源:Phoronix)