ЕДИНЫЙ ЦУПИС рассказал про ИИ-этику в банках на конференции «ИИ-БАНКИНГх2025: Агенты влияния»

11 сентября журнал «Банковское обозрение» провел 3-ю практическую конференцию о генеративном ИИ в финансовой сфере «ИИ-БАНКИНГх2025: Агенты влияния». Одним из спикеров мероприятия выступил руководитель подразделения прикладного ИИ ЕДИНОГО ЦУПИС Сергей Панченко.

 

Конференция стала площадкой для обсуждения ведущими экспертами реальных кейсов масштабирования ИИ-решений и ключевых тем в области ИИ, среди которых внутренние платформы, мультиагентные системы и технологии.   

 

В своем выступлении спикер ЕДИНОГО ЦУПИС сфокусировался на вопросах этики искусственного интеллекта как факторе доверия и конкурентного преимущества банка: «Прозрачность работы искусственного интеллекта крайне важна для формирования доверия клиентов. Компании могут получить преимущество, если клиенты видят, что ИИ действует в их интересах. Важно, чтобы ИИ был «объяснимым», то есть мог простыми словами рассказать, почему он принял то или иное решение».

 

Сергей Панченко отметил, что компания столкнулась с несколькими вызовами, связанными с ИИ. Среди них — риск получать неправильные ответы, вызванные галлюцинацией ИИ, предвзятость, а также необходимость защиты личных и финансовых данных клиентов при взаимодействии с облачными моделями искусственного интеллекта.

 

«Для сокращения рисков при работе с ИИ мы проверяем точность ответов при помощи индустриальных метрик оценки качества моделей, также создали систему, в которой клиент всегда может обратиться к человеку при наличии сомнений и, конечно, обрабатываем чувствительную информацию внутри своей специальной защищенной системы, — сказал руководитель подразделения прикладного ИИ ЕДИНОГО ЦУПИС Сергей Панченко. — Эти шаги важны не только для нас, но и для других финансовых компаний. Прозрачность, проверка качества, защита данных и возможность поговорить с человеком — все это помогает людям доверять ИИ больше».