Все приземляющиеся приложения ИИ требуют поддержки аппаратных вычислительных мощностей, включая автономное вождение, которое в настоящее время пользуется спросом на рынке. С увеличением количества датчиков восприятия окружающей среды, таких как камеры, радары миллиметрового диапазона, лидары и ультразвуковые радары в автомобилях, система автономного вождения будет собирать больше данных датчиков. Вычислительный чип автономного вождения должен обрабатывать и согласовывать эти данные с помощью алгоритмов для достижения слияния информации о транспортных средствах, дорогах, людях и т. д., чтобы принимать решения по управлению вождением. Увеличение количества датчиков значительно повысит требования к вычислительной мощности для вычислительных чипов автономного вождения.
Повышение вычислительной мощности неотделимо от поддержки NPU (Neural-network Processing Unit, нейросетевой процессор). Это своего рода микропроцессор, предназначенный для аппаратного ускорения искусственного интеллекта (особенно искусственной нейронной сети, машинного зрения, машинного обучения и т. д.) на основе технологии доменной архитектуры DSA (Domain Specific Architecture). По сравнению с ЦП и ГП, NPU разработан для ИИ в аппаратной архитектуре и очень подходит для операций нейронной сети.
NPU спроектированы иначе, чем процессоры общего назначения, такие как CPU и GPU. Учитывая универсальность вычислений, большая часть возросшей вычислительной мощности процессоров общего назначения не может быть напрямую преобразована в улучшение вычислительных возможностей нейронной сети. Например, нет особого улучшения для операций MAC, в то время как NPU предназначен для нейронных сетей, без учета того, что нейронные сети не требуют некоторых вычислительных блоков. По сравнению с CPU, который хорош в обработке задач и выдаче заказов, GPU хорош в обработке изображений и параллельных вычислениях, а NPU лучше справляется с задачами искусственного интеллекта. NPU реализует интеграцию хранения и вычислений посредством синаптических весов, тем самым повышая эффективность работы.
Таким образом, мы можем найти NPU во многих процессорах или SoC, поддерживающих приложения ИИ, таких как Apple A15, чип Tesla FSD, чип серии Horizon Journey, чип OPPO Mariana X и так далее. В дополнение к этим крупномасштабным и высокопроизводительным чипам SoC некоторые продукты MCU начали интегрировать модули NPU для удовлетворения потребностей некоторых периферийных интеллектуальных приложений.
Фактически, многие чипы SoC, поддерживающие ИИ, реализованы путем интеграции IP-нейронной сети. Вообще говоря, IP-нейронная сеть будет развиваться синхронно с алгоритмами нейронной сети и может быть дополнительно расширена для удовлетворения растущего спроса на производительность нейронной сети.