Алгоритмы глубокого обучения являются ключевым элементом искусственного интеллекта (ИИ). Они имитируют процессы, с помощью которых компьютер способен мыслить и учиться так же, как это делает человек. Нейронный процессор (NPU) – это процессор, оптимизированный для вычислений, необходимых для работы алгоритма глубокого обучения. Он специально создан для эффективной мгновенной обработки тысяч операций такого типа.

Компания Samsung Electronics в июне объявила о новой цели: до 2030 года она намерена активно работать над укреплением своего лидерства в мировой индустрии производства полупроводниковых систем за счет расширения разработки технологий создания нейронных процессоров. Недавно на конференции по компьютерному зрению и распознаванию образов (CVPR), одной из ведущих научных конференций в своей области, компания озвучила новую формулировку этой цели.

В Samsung Electronics решили сосредоточиться на разработке облегченного алгоритма искусственного интеллекта On-Device AI, который будет реализован непосредственно на устройстве. На CVPR компания представила доклад «Обучение квантованию сетей глубокого обучения с помощью оптимизации интервалов квантования с потерей задач». 

В документе сказано, что технологии искусственного интеллекта On-Device AI вычисляют и обрабатывают данные непосредственно на устройстве. Они требуют более чем в 4 раза меньше памяти и в 8 раз быстрее, чем существующие алгоритмы.

Таким образом, новейший алгоритмический подход Samsung значительно эффективнее представленных ранее систем.  Эксперты назвали его ключевым решением потенциальных проблем в энергоэффективных системах и высокоскоростных вычислениях.

Оптимизация процесса глубокого обучения

Специалисты Института передовых технологий Samsung (SAIT) объявили, что они разработали и успешно протестировали легковесную технологию On-Device AI, которая выполняет вычисления в 8 раз быстрее, чем существующие 32-разрядные серверные системы глубокого обучения. Преобразовывая данные в группы размером до 4 бит при сохранении точного распознавания информации, этот метод обработки алгоритма глубокого обучения работает намного быстрее и куда более эффективен с точки зрения энергопотребления, чем существующие решения.

Новая технология решения задач из сферы искусственного интеллекта на устройстве Samsung определяет интервалы значимых данных, которые влияют на общую эффективность глубокого обучения. Это, к примеру, «Интервальное обучение квантованию 1 (QIL)». Оно сохраняет точность данных за счет их реорганизации. Данные нужно представить в битах и проверить, не мал ли выбранный размер группы для решения конкретной задачи. 

Когда данные вычислений с глубоким обучением представлены в группах размером до 4 бит, вычисления операций «и» и «или» допускаются поверх простых арифметических операций — сложения и умножения. Это означает, что результаты вычислений с использованием процесса QIL способны достигать тех же результатов, что и существующие процессы, но используют в десятки раз меньше транзисторов. 

Институт провел эксперименты, которые показали, как квантование для серверного алгоритма глубокого обучения в 32-битных интервалах обеспечивало более высокую точность, чем другие существующие решения. Расчеты проводились с применением групп размером до 4 бит.

Поскольку для этой системы требуется меньше оборудования и электроэнергии, её можно реализовать непосредственно в чипсете – в том месте, где получают данные для датчика изображения или отпечатка пальца, или перед передачей обработанных данных в нужные конечные пункты.

Будущее систем искусственного интеллекта и глубокого обучения

Новая технология поможет развивать рынок полупроводниковых решений Samsung. Также она улучшит одну из ключевых технологий искусственного интеллекта.

Традиционные интеллектуальные сервисы отправляют данные на облачные сервера и там же получают результат. В отличие от них, технологии искусственного интеллекта On-Device AI обрабатывают данные, поступающие с самого устройства, и результат вычислений получается на месте.

Реализация технологии искусственного интеллекта непосредственно на устройстве может снизить стоимость решений. Она также позволит отказаться от использования облака для обработки данных с применением технологий искусственного интеллекта. 

On-Device AI работает без подключения к внешним источникам и обеспечивает стабильно высокую производительность для задач из различных областей, к примеру, виртуальной реальности и автономного вождения. Кроме того, реализация технологий искусственного интеллекта на устройстве даст возможность безопасно хранить личную биометрическую информацию, которая используется для аутентификации. Это, к примеру, отпечатки пальцев, схема радужной оболочки глаза и отсканированная модель лица на мобильных устройствах. 

«В конечном счете, в будущем мы будем жить в мире, где все устройства и сенсорные технологии работают на искусственном интеллекте, - отметил Чанг-Кью Чой, вице-президент и руководитель лаборатории компьютерного зрения Института передовых технологий Samsung. - Технологии Samsung On-Device AI – это энергосберегающие, высокоскоростные решения для глубокого обучения, которые проложат путь в это будущее. Они призваны расширить рынок памяти, процессоров и датчиков, а также другие рынки полупроводниковых систем следующего поколения».

Основная особенность технологии On-Device AI – её способность обрабатывать большие объемы данных с высокой скоростью без чрезмерного потребления электроэнергии. Первым решением Samsung с поддержкой этой технологии был чипсет Exynos 9 (9820), представленный в прошлом году. В нем использовался фирменный нейронный процессор Samsung, встроенный в мобильную систему на чипе (SoC). Exynos 9 (9820) позволяет мобильным устройствам выполнять вычисления для систем искусственного интеллекта непосредственно на устройстве и не зависеть от внешних облачных серверов.

Samsung Electronics планирует усилить лидерство в области технологий искусственного интеллекта. Многие компании уже обратили внимание на On-Device AI. В ближайшее время разработчики намерены применить этот алгоритм не только к мобильным SoC (системам-на-чипе), но и к памяти и сенсорным решениям.

Четыре человека, которые сыграли ключевые роли в разработке легковесного алгоритма искусственного интеллекта Samsung On-Device AI. Слева направо: Чже-Джун Хан, Чанг-Юнг Сон, Санг-Ил Юнг, Чанг-Кью Чой из Института передовых технологий Samsung.