Федеральное управление финансового надзора Германии (BaFin) приступило к контролю за использованием искусственного интеллекта в банках и страховых компаниях. Расширение полномочий регулятора стало возможным благодаря новому законодательству, которое недавно вступило в силу.
В рамках новых правил ведомство получило право штрафовать финансовые организации для защиты фундаментальных прав потребителей. Внимание регулятора будет приковано к прозрачности работы чат-ботов и применению нейросетей в таких чувствительных сферах, как оценка кредитоспособности. Особый акцент делается на предотвращении незаконных практик, включая сбор и анализ персональных данных, которые могут поставить клиентов в невыгодное положение.
Президент BaFin Марк Брэнсон подчеркнул важность доверия к новым технологиям. «Люди должны быть уверены, что их основные права надежно защищены при использовании искусственного интеллекта. Наше ведомство проследит за тем, чтобы каждый имел справедливый доступ к финансовым услугам, и чтобы никто не подвергался дискриминации из-за алгоритмов», — заявил он.
Эксперт ведомства Йенс Обермёллер пояснил, что надзор сфокусируется на системах, применяемых в лицензируемых видах деятельности. По его словам, регулятор планирует выборочно проверять алгоритмы, массово используемые участниками рынка в наиболее значимых сегментах, а не контролировать каждую отдельную программу. «Закон об искусственном интеллекте предписывает именно мониторинг, а не тотальный надзор», — отметил специалист.
Ожидается, что с декабря 2027 года регулятор возьмет под особый контроль системы искусственного интеллекта высокого риска. В финансовом секторе к этой категории традиционно относят алгоритмы оценки кредитного рейтинга физических лиц. При этом новое регулирование оставляет пространство для технологического развития: запланировано создание регуляторных песочниц и проведение тестирований в реальных рыночных условиях.
