Искусственный интеллект быстро выходит за рамки привычных чат-ботов. Следующий этап — это ИИ-агенты: системы, которые не просто отвечают на вопросы, а сами планируют действия, используют цифровые сервисы, оформляют покупки, назначают встречи, ведут переписку и могут выполнять бизнес-процессы от имени человека. Именно вокруг этой новой реальности Международный союз электросвязи (ITU), цифровое агентство ООН, запустил инициативу по повышению доверия к автономным ИИ-агентам. Объявление прозвучало 9 июля на саммите “Искусственный интеллект во благо” в Женеве. Cоздает Фокус-группу по доверию и идентификации для людей и Agentic AI, международную экспертную группу, которая займется разработкой основ цифровой идентификации, доверия и контроля для агентов ИИ. Reuters пишет, что поводом стали растущие опасения из-за ответственности и человеческого надзора: такие системы могут действовать всё более самостоятельно, а значит — принимать решения не там, не так и не от имени того, кто действительно дал разрешение.
Главная проблема звучит просто: как понять, кто действует в цифровой среде — человек, компания или ИИ-агент? И можно ли доверять этому «исполнителю»? В ITU подчёркивают, что агентный ИИ обещает крупный рост производительности, но одновременно несёт риски: от имитации людей и организаций до несанкционированных действий в связанных между собой системах. Особенно опасно это в финансовых транзакциях, корпоративных сервисах и критической инфраструктуре. По сути, речь идёт о создании правил цифрового «удостоверения личности» для ИИ. Если агент будет бронировать билет, согласовывать контракт или запускать процесс в банковской системе, у другой стороны должен быть способ проверить: кто поручил действие, какие полномочия есть у агента, можно ли отменить операцию и где находится человек в цепочке контроля. Без такого слоя доверия массовое внедрение ИИ-агентов может упереться не в технологии, а в страх бизнеса и пользователей перед ошибками, мошенничеством и потерей ответственности.
Читайте также
Strategy снова продает биткоины: зачем компания Сэйлора выкупает акции STRC
«Будущее ИИ зависит от доверия», — заявила генсек ITU Дорин Богдан-Мартин. Сопредседатель новой группы Дебора Компарин добавила, что ИИ-агенты скоро будут «вести переговоры, совершать сделки и принимать решения» от нашего имени. Поэтому, по её словам, миру нужны общие международные основы: кто эти агенты, когда им можно доверять и как люди сохранят контроль. Группа ITU будет работать над общей терминологией, архитектурами цифровой идентичности, механизмами совместимости, моделями жизненного цикла доверия, критериями безопасности и дорожной картой стандартизации. В неё приглашают технических специалистов, юристов, регуляторов и экспертов по политике. Первое заседание запланировано на ноябрь 2026 года в Париже, второе — на январь 2027 года в Женеве.
Контекст делает инициативу особенно важной. За несколько дней до объявления генсек ООН Антониу Гутерриш предупредил, что искусственный интеллект развивается быстрее, чем власти успевают создавать правила. По данным Reuters, он призвал к глобально согласованным нормам и заявил, что инновациям нужны «ограждения». Европейский AI Act уже движется в сторону требований прозрачности, безопасности и человеческого контроля, но агентные системы создают отдельную проблему: они не просто генерируют текст, а действуют. Для обычного пользователя это означает, что в ближайшие годы вопрос будет не только в том, «умный» ли ИИ, а в том, можно ли безопасно доверить ему действия. Чем больше ИИ-агентов появится в банках, маркетплейсах, офисных системах и государственных сервисах, тем важнее станет их проверяемая идентичность. Иначе цифровой помощник рискует превратиться в цифрового самозванца.
Меню 
Знания 
События 
Новости 
Курсы валют