Sam Altman氏、RAMは机の上よりもデータセンターにある方が良いと発言
概要
OpenAIのCEOであるSam Altman氏は、ポッドキャスト「Cheeky Pint」のインタビューで、深刻化するRAM不足とローカルAI推論の動きについて言及した。同氏は、多くの人がオープンソースモデルを自分のコンピュータで実行したいと考えている一方で、世界の限られたDRAM供給が個人のPCに置かれ、わずか5パーセントしか使用されないことは、世界的な配分の観点から「かなりひどい」と述べた。Altman氏は、供給が制約された環境ではクラウドでの最大限の利用が不可欠だと強調した。この発言は、メモリメーカーのSamsungとSK Hynixがクラウド事業者やOpenAIのStargateなどのプロジェクトと長期契約を結び、今後数年間の世界のRAM生産の大部分を確保したことで、消費者向けデバイスの価格が上昇している状況を受けたものである。
(出典：The Verge)