ЦБ опубликовал методические рекомендации по безопасному использованию ИИ в финансовой сфере
Банк России выпустил методические рекомендации по безопасному использованию искусственного интеллекта в финансовой сфере. В разработке документа участвовали эксперты Ассоциации ФинТех. Рекомендации помогают финансовым организациям выстроить комплексный подход к информационной безопасности при внедрении ИИ: систематизированы ключевые риски, описаны возможные тактики атак на модели и предложены меры защиты.
Документ подчеркивает необходимость системной работы с рисками на всех этапах жизненного цикла ИИ — от разработки и тестирования до эксплуатации и взаимодействия с внешними сервисами. Особое внимание уделено прозрачности, контролируемости и защищённости моделей, а также требованиям к поставщикам ИИ-решений.
Рекомендации акцентируют важность разработки внутренних политик и моделей угроз, учитывающих специфику деятельности организации и критичность процессов, в которых применяется ИИ. Ответственность за подготовку таких документов возлагается на заместителя руководителя организации по вопросам защиты информации.
В ЦБ также перечислили основные угрозы, которые необходимо учитывать: «отравление» обучающих данных, галлюцинации ИИ, дрейф данных, атаки с внедрением вредоносных запросов и компрометация цепочки поставок. Для каждой угрозы предложены конкретные меры защиты — от контроля целостности данных до тестирования на проникновение.
