越狱PS5现在能以每秒超过100+个token的速度运行本地AI模型——PS5LM的分支实现原生运行,劫持CPU,并访问GPU和更多内存

Tom's Hardware
PS5LM的新分支使越狱PS5能原生利用GPU运行本地AI模型,速度超过每秒100个token。

内容摘要

Reddit用户u/AdIllustrious7246发布了PS5LM的分支版本,这是一个针对PS5的llama.cpp移植,能让越狱主机原生运行本地AI大语言模型。原版由GitHub用户cobanov开发,以CPU负载方式运行,内存限制在约6 GiB。新分支则利用GPU并访问更多内存,可运行Qwen3.8-27B等更大模型,速度约每秒20个token。原始负载方式劫持CPU,为避免冻结主界面而限制内存,而新的原生实现突破了这些限制,显著提升了AI性能。

(来源:Tom's Hardware)