Нейронные процессоры NPU в смартфонах: принципы работы и влияние на производительность

В современных смартфонах появился новый важный компонент - нейронный процессор (NPU), который существенно расширяет возможности мобильных устройств в области искусственного интеллекта. Данный специализированный модуль интегрируется в систему на кристалле (SoC) наряду с центральным процессором (CPU) и графическим ускорителем (GPU).

История внедрения NPU началась еще в 2015 году, когда компания Qualcomm представила технологию AI Engine в процессоре Snapdragon 820. Через два года Apple разработала собственный Neural Engine для чипа A11 Bionic. На сегодняшний день нейронные процессоры встречаются в большинстве современных мобильных платформ, включая решения от Samsung (Exynos), MediaTek (Dimensity) и других производителей.

Главное преимущество NPU заключается в значительном ускорении задач, связанных с машинным обучением и искусственным интеллектом. Нейронный процессор эффективно справляется с распознаванием лиц и объектов на фотографиях, генерацией изображений и текста, преобразованием речи в текст, мгновенным переводом и предиктивным вводом текста.

В отличие от универсального CPU, ориентированного на последовательное выполнение сложных вычислений с высокой точностью, NPU оптимизирован для параллельной обработки множества относительно простых операций. По сравнению с GPU, который также способен работать параллельно, нейронный процессор обеспечивает существенно меньшее энергопотребление при сопоставимой производительности в задачах искусственного интеллекта.

Локальная обработка данных на NPU имеет ряд преимуществ перед облачными вычислениями. Во-первых, отсутствие необходимости передачи информации в облако обеспечивает мгновенный отклик в таких приложениях, как камера с распознаванием объектов. Во-вторых, повышается уровень конфиденциальности, поскольку персональные данные не покидают устройство.

Производительность NPU измеряется в TOPS (триллионах операций в секунду). Например, новейший процессор Snapdragon 8 Gen 3 достигает показателя в 45 TOPS. Для сравнения, настольная видеокарта NVIDIA RTX 4090 обеспечивает более 1300 TOPS, однако потребляет при этом 450 Вт энергии.

Особого внимания заслуживает подход компании Google, использующей в своих смартфонах Pixel собственный тензорный процессор (TPU). Данный чип оптимизирован для работы с фреймворком машинного обучения TensorFlow и встречается исключительно в устройствах Google.

Нейронные процессоры становятся неотъемлемой частью мобильных систем на кристалле, обеспечивая эффективную работу функций искусственного интеллекта при минимальном энергопотреблении. По мере развития мобильных AI-приложений роль NPU будет только возрастать, открывая новые возможности для пользователей смартфонов.