Apple、2nm M6と初のquad-die M5 Ultraを発表
これは何?M6とM5 UltraはCPU、GPU、Neural Engine、unified memoryを一packageへ統合し、Macの一般処理からlocal AIまでを担うsystem on a chipです。
Appleは初の2nm M6に12core CPU、12core GPU、Dual 16-core Neural Engine、最大170GB/sのmemory bandwidthを搭載しました。M5 Ultraは二つのdual-die M5 MaxをUltraFusionで結ぶ初のquad-die構成で、最大36core CPU、80core GPU、512GB memory、1.2TB/sを掲げます。性能値はAppleが試作機と選定benchmarkで測ったもので、独立検証前です。
local AIの実用上限は演算性能だけでなく、modelとKV cacheを保持するmemory容量、bandwidth、die間通信で決まります。導入判断ではvendor benchmarkと実modelのlatency、消費電力、memory制約を分けて検証する必要があります。
- 読むべき人
- macOS developer、ML engineer、creative tooling、hardware選定担当者
- HN
- 858 points / 787 comments