脱獄したPS5が毎秒100以上のトークンでローカルAIモデルを実行可能に——PS5LMのフォークがネイティブ化し、CPUを乗っ取り、GPUとより多くのRAMにアクセス
概要
Redditユーザーu/AdIllustrious7246が、PS5用のllama.cpp移植であるPS5LMのフォークを公開し、脱獄したPS5でローカルAI大規模言語モデルをネイティブに実行できるようにした。元のバージョンはGitHubユーザーcobanovによるもので、CPUペイロードとして動作し約6 GiBのメモリに制限されていたが、このフォークはGPUを利用しより多くのRAMにアクセスすることで、Qwen3.8-27Bのような大きなモデルを毎秒約20トークンで実行できる。元のペイロード方式はCPUを乗っ取り、ホーム画面のフリーズを避けるためにメモリを制限していたが、新しいネイティブ実装はこれらの制限を克服し、AI性能を大幅に向上させた。
(出典：Tom's Hardware)