09.06.2026 14:44
Apple оптимизировала работу 20-миллиардной ИИ-модели
Apple оптимизировала работу 20-миллиардной ИИ-модели
Новая встроенная нейросеть AFM 3 Core Advanced получила 20 млрд параметров и разреженную архитектуру. По меркам телефонов 20 миллиардов параметров - это много. Чтобы обойти ограничения оперативной памяти, инженеры компании применили собственный алгоритм отсечения инструкций (IFP) и перенесли хранение весов во флэш-память (NAND).
Для обхода низкой пропускной способности NAND разработчики отказались от стандартного механизма MoE, меняющего «экспертов» на каждом токене. Теперь маршрутизация определяется один раз для всего запроса целиком: легкий блок анализирует промпт и загружает в DRAM фиксированный набор экспертов. За счет сочетания всегда активных «общих» и динамических «маршрутизируемых» модулей модель активирует от 1 до 4 млрд параметров в зависимости от сложности задачи.
Новая встроенная нейросеть AFM 3 Core Advanced получила 20 млрд параметров и разреженную архитектуру. По меркам телефонов 20 миллиардов параметров - это много. Чтобы обойти ограничения оперативной памяти, инженеры компании применили собственный алгоритм отсечения инструкций (IFP) и перенесли хранение весов во флэш-память (NAND).
Для обхода низкой пропускной способности NAND разработчики отказались от стандартного механизма MoE, меняющего «экспертов» на каждом токене. Теперь маршрутизация определяется один раз для всего запроса целиком: легкий блок анализирует промпт и загружает в DRAM фиксированный набор экспертов. За счет сочетания всегда активных «общих» и динамических «маршрутизируемых» модулей модель активирует от 1 до 4 млрд параметров в зависимости от сложности задачи.