2005年製PowerBook G4でLLMの動作に成功、開発者が証明

ソフトウェア開発者が、2005年製のPowerBook G4のような旧型ハードウェア上で、最新のLLM（大規模言語モデル）を動作させることに成功した。

ただし、その速度は消費者が期待するレベルには遠く及ばない。

近年のAIプロジェクトは、ローカル環境でクエリを処理できる高性能デバイスに依存する傾向がある。そのため、iPhone 16世代のAシリーズチップなど、最新のコンピューターやプロセッサがAIアプリケーションに使用されることが多い。

The Resistor Networkに掲載されたブログ記事の中で、Andrew Rossignol氏は、自身の旧型ハードウェアでのLLM動作の取り組みについて述べている。彼が使用したのは、1.5GHzプロセッサ、1GBのメモリ、そして32bitのアドレス空間といった制限のある2005年製PowerBook G4だった。