Денежно-кредитное управление Сингапура совместно с финансовыми институтами и финтех-компаниями представило официальный документ, регламентирующий безопасное использование автономного искусственного интеллекта в банковской сфере. Новая инициатива призвана защитить отрасль от потенциальных рисков, связанных с внедрением сложных алгоритмов.
Документ под названием «Safeguards for Agentic Finance at Runtime» устанавливает базовую структуру для финансовых организаций. Она помогает компаниям безопасно и надежно применять автономные программы при выполнении различных финансовых задач. Данная система была разработана в рамках программы «BuildFin.ai», которая специализируется на ответственном внедрении интеллектуальных инструментов в сектор.
Авторы инициативы обращают внимание на растущую популярность автономных агентов, способных действовать самостоятельно и на скоростях, недоступных для прямого контроля человеком. В связи с этим финансовым компаниям требуются механизмы защиты, работающие в режиме реального времени. Это позволит удерживать системы в рамках заданных полномочий и жестких ограничений рисков.
В соответствии с новой концепцией, перед выполнением любого действия алгоритмом используются специальные контрольные точки управления для проверки и регистрации предложенных шагов. Система выстраивается на основе инструментов управления рисками проекта «Mindforge» и концентрируется на том, как применять эти средства контроля именно в тот момент, когда искусственный интеллект принимает решение.
Документ описывает такие важнейшие меры предосторожности, как выполнение политик, проверка в реальном времени и возможность проведения технического аудита. Участники проекта уже применили эти стандарты к ряду практических задач. Среди них — платежные и казначейские функции, где алгоритмы могут обрабатывать рутинные транзакции, а также процессы управления капиталом, где программы анализируют документы и поддерживают проверки на соответствие нормативным требованиям.
Помимо этого, структура использовалась в работе с клиентами для подготовки аналитических материалов в пределах утвержденных ограничений. Регулятор подчеркнул, что все заинтересованные участники отрасли могут присоединиться к рабочей группе для доработки будущих версий стандарта, а недавно созданный Институт будущего финансов поддержит внедрение концепции через организацию отраслевых пилотных проектов.
