Клиентам финуслуг объяснят, как работает искусственный интеллект
Управление по финансовому регулированию и надзору Великобритании (FCA) и Институт Алана Тьюринга приступили к совместной работе, чтобы сделать искусственный интеллект «более понятным» для пользователей финуслуг.
Проект нацелен на решение одной из самых больших проблем в клиентских приложениях с использованием искусственного интеллекта — как объяснить потребителю, почему ИИ отказывает ему в определенном товаре или услуге.
Представляя программу, исполнительный директор FCA по стратегии и конкуренции Кристофер Вулард, назвал в качестве примера случай, когда ИИ отклонил заявку на получение ипотеки или полиса страхования жизни.
"Алгоритмы принятия подобных решений должно быть объяснены. Осталось решить — как именно это будет происходить? На каком уровне придется это объяснять — на уровне владеющего необходимыми знаниями эксперту, генеральному директору компании или обычному потребителю?", - интересуется Кристофер Вулард Financial Conduct Authority
По словам Вуларда, в приложения с ИИ можно «встроить объяснение», используя более понятный алгоритм, однако это может ухудшить работу технологии по прогнозам.
Сообщается, что FCA будет решать этот и другие вопросы, связанные с машинным обучением, вместе с Институтом Алана Тьюринга. Исследование завершится публикацией совместного документа по этим вопросам и семинара, запланированного на начало 2020 года.
