M3 Ultra搭載Mac Studio、巨大AIモデルDeepSeek R1をローカルで実行可能に

人気YouTuberのDave2Dことデイブ・リー氏が、Appleの新型Mac Studio（M3 Ultraチップ搭載）で、巨大なDeepSeek R1 AIモデルをローカルで効率的に実行できることを実証しました。ただし、そのためには、最大512GBのメモリを搭載したマシンが必要です。

リー氏のテストによると、6710億パラメータのAIモデルをAppleのハイエンドワークステーション上で直接実行できますが、大量のメモリリソースを必要とし、404GBのストレージを消費し、ターミナルコマンドを通じて448GBの仮想RAMを手動で割り当てる必要があります。

M3 Ultraのユニファイドメモリアーキテクチャが、このパフォーマンスの鍵となります。システムは、DeepSeek R1の4ビット量子化バージョンを効率的に処理できます。量子化は精度をわずかに低下させますが、すべてのパラメータを維持し、1秒あたり約17～18トークンを提供します。これは、多くの実用的なアプリケーションには十分な速度です。

おそらく最も印象的なのは、Mac Studioが200ワット未満の電力消費でこれを実現していることです。従来のPCハードウェアで同等のパフォーマンスを得るには、複数のGPUが必要となり、消費電力は約10倍になります。

このような高度なAIモデルをローカルで実行できる機能は、医療データ分析などの機密性の高いアプリケーションにプライバシー上の利点をもたらします。クラウドサービスに情報を送信すると、セキュリティ上の懸念が生じるためです。

ただし、このパフォーマンスは安価ではありません。M3 Ultraと512GBのRAMを搭載したMac Studioの構成は、約10,000ドルから。フルスペックのM3 Ultra Mac Studio（16TBのSSDストレージ、32コアCPU、80コアGPU、32コアNeural Engine搭載）は、なんと14,099ドルです。もちろん、機密データをローカルでAI処理する必要がある組織にとって、Mac Studioは代替ハードウェア構成と比較して、比較的電力効率の高いソリューションとなります。

Appleは、M3 Ultraをこれまでで最も高速なMacチップであると述べています。これは、同社の「UltraFusion」テクノロジーを使用して2つのM3 Maxチップを融合させる戦略によるものです。これにより、チップの仕様はM3 Maxの2倍になります。