Совет по финансовой стабильности (FSB) представил 12 рекомендаций по безопасному использованию искусственного интеллекта в банковской и финансовой сферах. Особое внимание регулятор уделил автономным ИИ-агентам, способным самостоятельно принимать решения и выполнять задачи практически без участия человека.
Главный принцип документа — чем выше потенциальный риск действий искусственного интеллекта, тем строже должен быть контроль со стороны сотрудников финансовых организаций.
Читайте также
Биткоин на грани нового движения: отток $1,22 млрд из ETF, массовые ликвидации и прогноз
Почему регуляторы обеспокоены ИИ-агентами
В отличие от традиционных чат-ботов, автономные ИИ-агенты способны не только анализировать информацию, но и планировать последовательность действий, взаимодействовать с программными системами и выполнять операции.
В финансовой сфере такие технологии потенциально могут использоваться для обработки платежей, анализа кредитных заявок, управления инвестиционными портфелями и выявления мошеннических операций.
Однако самостоятельность создаёт дополнительные риски. Ошибка алгоритма, некорректно поставленная задача или кибератака могут привести к нежелательным финансовым операциям.
В FSB отдельно подчеркнули, что ИИ-агенты не рассуждают так же, как люди, и могут неожиданным образом интерпретировать поставленные цели. Поэтому финансовым организациям не следует воспринимать их как полноценных цифровых сотрудников.
Какие ограничения рекомендует FSB
Опубликованный 15 октября документ предусматривает 12 практических рекомендаций, охватывающих управление искусственным интеллектом и контроль рисков на всех этапах его использования.
Среди ключевых направлений:
— Человеческий контроль. При выполнении операций с повышенным уровнем риска ИИ должен запрашивать разрешение ответственного сотрудника.
— Оценка рисков. Банки должны анализировать возможные последствия использования ИИ до внедрения и в процессе эксплуатации.
— Прозрачность решений. Финансовым организациям необходимо учитывать возможность объяснения действий алгоритмов и применять дополнительные механизмы контроля.
— Кибербезопасность. Особое внимание уделяется защите ИИ-систем от атак и несанкционированного вмешательства.
— Ответственность руководства. Руководители финансовых организаций должны контролировать внедрение технологий и учитывать связанные с ними риски.
FSB также рекомендует заранее определять условия, при которых автономному агенту требуется обязательное одобрение человека. Такие условия должны зависеть от уровня риска конкретной операции.
Что изменится для банков и клиентов
Рекомендации FSB не означают запрета на использование автономных ИИ-агентов. Более того, регулятор признаёт преимущества искусственного интеллекта для финансовой отрасли. Однако организациям предлагается выстраивать систему, в которой степень самостоятельности ИИ соответствует возможным последствиям его действий. Например, алгоритм может автоматически анализировать транзакции и выявлять подозрительную активность. Но принятие решений, способных привести к существенным финансовым потерям, может потребовать дополнительной проверки сотрудником. При этом документ FSB не имеет обязательной юридической силы. Это международные рекомендации, которые финансовые организации и национальные регуляторы могут использовать при разработке собственных правил.
Станут ли ИИ-агенты полноценными участниками банковской системы?
Развитие автономного ИИ постепенно меняет представление о финансовых услугах. В перспективе цифровые агенты смогут действовать от имени пользователей: выбирать финансовые продукты, управлять платежами и взаимодействовать с банковскими сервисами. Но для масштабного внедрения таких решений необходимо определить, кто отвечает за ошибки алгоритмов, какие операции можно доверять машине и когда обязательно вмешательство человека. Позиция FSB показывает, что финансовые регуляторы не стремятся остановить развитие автономного ИИ. Их задача — не допустить ситуации, при которой алгоритмы получают возможность распоряжаться финансовыми ресурсами без достаточных механизмов контроля.
Главный вывод: ИИ-агенты могут стать важной частью будущей банковской инфраструктуры, однако их самостоятельность будет ограничиваться требованиями безопасности, управления рисками и ответственности финансовых организаций.
Меню 
Знания 
События 
Новости 
Курсы валют