Правительство Великобритании рассматривает возможность внедрения единой системы тестирования моделей искусственного интеллекта общего назначения, используемых в банковском секторе. К этой инициативе власти подтолкнули опасения Банка Англии относительно того, как именно финансовые организации оценивают риски при внедрении подобных технологий.
Предложение о создании общеотраслевого стандарта проверки было направлено в Министерство науки, инноваций и технологий в прошлом месяце. Автором инициативы выступила операционный директор по информационным технологиям Starling Bank Харриет Рис, которая также занимает пост правительственного уполномоченного по вопросам ИИ в сфере финансовых услуг и является сопредседателем профильной рабочей группы Банка Англии.
По мнению Рис, централизованная оценка необходима для устранения дублирующих процессов в разных банках и обеспечения единообразия проверок. Особое внимание предлагается уделить алгоритмам, разработанным в США, чтобы гарантировать их соответствие британским стандартам. В настоящее время законодательство не требует обязательной независимой экспертизы систем ИИ перед их запуском в регулируемых секторах, и банки полагаются на внутренние проверки.
Обсуждение этого вопроса активизировалось после серии встреч, проведенных Управлением по пруденциальному надзору Банка Англии. Регулятор указал представителям банковского сообщества на то, что мониторинг используемых моделей ИИ проводится недостаточно часто. Несмотря на то что такие компании, как OpenAI и Anthropic, добровольно предоставляют свои разработки Институту безопасности ИИ (AISI) для изучения рисков, системный контроль на государственном уровне пока отсутствует.
Предполагается, что надзор со стороны независимого органа станет дополнительным предохранителем, позволяющим банкам лучше понимать внутренние механизмы работы стороннего программного обеспечения. При этом такая проверка не должна подменять собственные процедуры контроля кредитных организаций.
Тем не менее в правительстве пока нет единого мнения о том, какая структура должна взять на себя роль проверяющего. Представители профильного министерства отметили, что Институт безопасности ИИ сосредоточен на фундаментальных исследованиях и его полномочия вряд ли будут расширены до проведения аудита коммерческих моделей сторонних разработчиков. Банк Англии от комментариев по данному вопросу воздержался.
