英伟达发布免费工具,将闲置电脑连接成个人AI数据中心

The Verge
英伟达发布免费工具PAIR,将家用电脑联网,组成共享的个人AI数据中心以运行本地AI任务。

内容摘要

英伟达宣布推出Personal AI Router (PAIR),这是一款免费的开源软件工具,可在家庭网络中发现兼容的计算机并将它们连接起来,共同处理本地AI推理任务。PAIR旨在利用设备的闲置计算能力,主要支持配备英伟达GeForce RTX 20系列或更新GPU的设备,同时也支持Apple M4或更新的芯片。该系统将工作负载分配到多台机器上,防止单一GPU成为瓶颈,这对于将复杂任务分解为小任务的智能体AI工作流尤其有用。安全性通过配对码和加密通信渠道管理。虽然英伟达设想典型用户拥有一两台强大的计算机,但该工具旨在利用家庭中未充分利用的计算资源。此外,英伟达宣布多款AI智能体应用将在Windows上提供基于英伟达GPU的简化本地设置。

(来源:The Verge)