Генеративный искусственный интеллект (ИИ) становится частью повседневной жизни. Кроме замены многих рутинных операций человека и автоматизации технологических процессов в промышленности, ИИ генерирует множество синтетической информации. Для этого различным моделям ИИ приходится обрабатывать гигантский объем данных. С этой задачей ИИ справляется вроде бы отлично. Но известные модели ИИ поставили новые вопросы. Один из них — доступность их возможностей.
Для обычного пользователя доступность ИИ во многом связана с наличием интернета. Мало найдется сегодня людей, не пользующихся онлайн-сервисами. Мы подключены к глобальной сети практически постоянно. Другое дело — промышленные сенсоры и стационарные датчики интернета вещей (IoT). Использование ИИ в сфере IoT сталкивается с двумя вызовами. Во-первых, представляет интерес создание модели ИИ для работы на стороне периферийных устройств IoT. Во-вторых, необходима разработка устройств, пригодных для такого ИИ.

ИИ дебютирует в политике на выборах в Германии
Сегодняшняя архитектура устройств IoT предполагает связь с облаком или центром обработки данных. Однако это вносит задержку при обработке информации и принятии решений. Для систем машинного зрения такая задержка может стать определяющим фактором, особенно в беспилотниках и автопилотах. Для лучшей производительности подобных систем, функционирующих в режиме реального времени, интеллектуальную обработку данных необходимо производить прямо на сенсорных устройствах. Такая конфигурация к тому же гораздо безопаснее. Она передает меньше конфиденциальных данных и может быть лучше защищена от несанкционированных подключений. А бонусом станет снижение энергетической нагрузки на центры обработки данных и электросети. Особенно, когда периферийные устройства IoT используют автономные источники питания.
Таким образом, развивающийся рынок устройств IoT может подтолкнуть к развитию и внедрению систем на нейронных процессорах (NPU). Или специальных ускорителей для ИИ, которые могут быть спроектированы для масштабирования производительности и энергопотребления, в соответствии с конкретным устройством IoT и приложением.
Возможно, вскоре ИИ станет базовой функцией устройств IoT, но пока у них не хватает вычислительной мощности и подписки на услуги популярных моделей генеративного ИИ.