Apple: iPhone запускают LLM на 14B параметров, Mac Studio — на 1,6 трлн

Apple опубликовала таблицу, показывающую, какие локальные LLM тянут её устройства. iPhone и iPad с 16 ГБ памяти — до 14B активных параметров, MacBook Pro с 128 ГБ — до 120B, а кластер из четырёх Mac Studio M5 Ultra с 2 ТБ памяти — до 1,6 трлн параметров.

• iPhone и iPad с 16 ГБ памяти: до 14B активных параметров
• MacBook Air и Mac mini с 64 ГБ: до 70B параметров
• Mac Studio M5 Ultra с 512 ГБ: до 480B параметров
• Кластер из 4 Mac Studio с 2 ТБ: до 1,6 трлн параметров