В Европейском союзе финансовые организации и финтех-компании получают новые требования к используемому искусственному интеллекту (ИИ). Со 2 февраля 2025 года вступил в действие Закон ЕС об ИИ (EU AI Act). Компании, не соблюдающие новые нормы, могут получить штрафы до €35 млн ($36,2 млн).
В соответствии с законом, введены запреты на использование ИИ для биометрической категоризации, т.е системы не могут определять этническую принадлежность или политические взгляды человека по его внешности. Ограничено использование ИИ для распознавания эмоций в службе поддержки клиентов. Запрещено при найме работников учитывать место рождения или этническую принадлежность. Кроме того, закон требует повышения уровня грамотности в области ИИ среди сотрудников. Например, юристы должны обладать “продвинутыми” знаниями, тогда как маркетинговым командам достаточно базовой осведомленности.
Как это повлияет на финтех и управление активами? Эксперты Fintech Magazine считают, что законодательные новшества приведут к росту затрат. Финтех-компании обязаны проводить аудит алгоритмов, повышать уровень кибербезопасности и адаптировать системы под новые требования. При этом должна повыситься прозрачность и объяснимость ИИ-решений, усилиться человеческий контроль. В дополнение — компаниям необходимо проверять корректность данных, используемых для обучения ИИ.
Для адаптации под новый закон компаниям придется переходить на специализированные ИИ-алгоритмы, отказываясь от универсальных моделей. Для повышения прозрачности и устранения эффекта “черного ящика” внедряется технология «объяснимого ИИ» (Explainable AI, XAI). Например, если отклоняется заявка на кредит, XAI может объяснить, какие факторы на это повлияли. Рассматривается также гибридный подход к регулированию — сочетание автоматизированных ИИ-систем с человеческим надзором.
Закон ЕС об ИИ часто сравнивают с GDPR (General Data Protection Regulation) – Общим регламентом по защите данных. Напомним, несмотря на первоначальную критику, GDPR помог компаниям улучшить защиту данных, повысить доверие клиентов и минимизировать риски утечек информации.
Закон ЕС об ИИ вводится поэтапно, позволяя компаниям адаптироваться постепенно. Однако уже в 2025 году ожидаются новые ужесточения, особенно в области прозрачности ИИ. По словам экспертов, «закон ЕС об ИИ — это не просто еще одно регулирующее бремя, а основа для создания качественных ИИ-систем в финансовом секторе».
Об опыте и перспективах регулирования ИИ в Беларуси можно узнать от практикующего юриста по ссылке: Эхо Crypto Bridge: Регулирование ИИ – в поисках баланса
