ソフトウェアエンジニア、20年前のPowerBook G4で生成AIを動作させる

ソフトウェアエンジニアのアンドリュー・ロッシニョール氏が、自身のブログで、2005年製のPowerBook G4上でMetaのLLMモデル「Llama 2」を動作させることに成功したと発表しました。

PowerBook G4は、1.5GHz PowerPC G4プロセッサと1GBのRAMという、現代のLLMに必要なスペックからはかけ離れた旧式なハードウェアを搭載しています。

ロッシニョール氏は、オープンソースプロジェクト「llama2.c」を移植し、PowerPCのベクトル拡張機能「AltiVec」を用いてパフォーマンスを向上させることで、この難題をクリアしました。

同様の事例として、PlayStation 3やXbox 360といった旧世代のゲーム機上で生成AIモデルが動作した例も報告されています。

技術的な詳細については、ロッシニョール氏のブログ記事をご覧ください。