Сбер и центры ИИ расширяют партнерство для разработки передовых решений

© Высшая школа экономики

Сбер провел R&D-день (Research and Development) по результатам сотрудничества с исследовательскими центрами в сфере искусственного интеллекта. Ученые из центров ИИ НИУ ВШЭ, Сколтеха, МФТИ и ИТМО представили исследования, полезные для развития экосистемы банка. На постерной сессии участники обсудили новые направления сотрудничества.

За 2021–2023 годы в интересах Сбербанка в трех центрах ИИ — НИУ ВШЭ, Сколтеха и МФТИ — выполнено 47 проектов, а также подготовлено 48 статей для журналов Q1 и конференций А*. В приветственном слове Максим Еременко, вице-президент ПАО «Сбербанк», отметил, что Сбер является крупнейшим индустриальным партнером центров искусственного интеллекта на базе НИУ ВШЭ, Сколтеха и МФТИ. «Спасибо исследовательским командам за увлеченность и яркие результаты, оцененные международным научным сообществом на конференциях уровня А и А*, — сказал Максим Еременко. — Также мы благодарим бизнес-блоки Сбербанка за четкие формулировки задач и умение слушать исследователей. Уже на данном этапе мы видим высокий прогнозируемый эффект от внедрения полученных результатов работы центров ИИ. Мы будем продолжать совместную работу с исследовательскими центрами с целью новых научных открытий и применения их для оптимизации банковских процессов».

Максим Еременко

© Высшая школа экономики

Ученые представили подразделениям Сбера результаты исследований, которые могут быть интересны экосистеме банка. Вячеслав Мещанинов, сотрудник Центра искусственного интеллекта НИУ ВШЭ, младший научный сотрудник Центра глубинного обучения и байесовских методов ФКН НИУ ВШЭ, в докладе «Посмотрим в будущее: побьют ли диффузионные модели GPT-подобные в битве языкового моделирования?» рассказал о возможностях применения диффузионных моделей в различных сферах и отраслях, например для генерации текста и изображений.

Вячеслав Мещанинов отметил, что всем известные GPT-подобные модели уже несколько лет держат лидерство в области генерации последовательностей. «Однако у них есть несколько весомых недостатков, такие как большое время работы на инференсе, левосторонний контекст и механизм исправления ранее написанных слов, — подчеркнул исследователь. — В отличие от них, диффузионные модели генерируют весь текст целиком, постепенно его улучшая и заменяя неправильные слова на более подходящие к данному контексту. Также процесс генерации у диффузионных моделей может быть ускорен в сотни раз без потери качества. Диффузионные модели могут применяться для генерации последовательных данных разной природы. Мы выявили, что предлагаемый метод показывает хорошее качество на задаче генерации белков и значительно опережает другие методы».

Вячеслав Мещанинов

© Высшая школа экономики

Сбер активно внедряет решения, разработанные в рамках сотрудничества с центрами ИИ. На встрече были отмечены лучшие реализованные проекты, многие из которых уже работают в экосистеме банка. Среди лучших — проекты Центра искусственного интеллекта НИУ ВШЭ. Эти проекты охватывают различные области — от выявления мошеннических операций до риск-анализа.

«Работая с таким ключевым партнером, как Сбер, мы не только изучаем опыт компании и разбираем актуальные статьи, но и совместно создаем SOTA-подходы, — говорит Петр Паршаков, заведующий Международной лабораторией экономики нематериальных активов НИУ ВШЭ в Перми. — В свою очередь, сотрудничество индустрии и науки оказывается выгодно обеим сторонам: Сбер получает уникальные решения для своих задач, а наша команда смотрит на прикладные задачи глазами ученых и развивает свои компетенции в ML и NLP».

Ряд проектов Центра ИИ выполняется сотрудниками Центра стратегической аналитики и больших данных ИСИЭЗ, обратила внимание заместитель директора этого центра Марина Клубова. «Это подразделение развивает систему интеллектуального анализа больших данных iFORA и обеспечивает их непрерывный сбор, обработку и хранение, — рассказала она. — Представители команды iFORA рассказали о результатах проектов для Сбера и других своих разработках, включая обучение моделей суммаризации текстов и автоматизации сбора информации (извлечение из текстов утверждений и их классификация), мультиязычную модель для выявления и оценки научно-технологических трендов, определение перспективных технологий и рынков, репутационный анализ компаний и продуктов, разработку интерактивных веб-интерфейсов для семантического поиска, анализа и визуализации данных».

На постерной сессии участники ознакомились с компетенциями исследовательских центров. Ученые НИУ ВШЭ представили свои исследования в области биоинформатики, ESG (экология, социальное развитие и корпоративное управление), глубинного обучения и генеративных моделей, больших языковых моделей и обучения с подкреплением.

 “Z-flipon variants reveal the many roles of Z-DNA and Z-RNA in health and disease” (Дмитрий Коновалов)

 «Исследователи Центра ИИ ВШЭ реализовали с 2022 по 2023 год более 20 проектов в интересах Сбера. По оценкам заказчиков, они принесли эффекты: снижение операционных расходов на риск-анализ, сокращение time-to-market адаптации больших языковых моделей, прирост откликов клиентов, повышение качества продуктов речевой аналитики и собственных систем видеосвязи и др. Сейчас совместно со Сбером мы активно формируем портфель проектов на 2024 год». «Библиотека программных и аналитических средств (фреймворка), направленных на предсказание расположения геномных функциональных элементов методами глубинного обучения на основе омиксных данных молекулярной биологии» (Артем Войтецкий)

 «Разработка алгоритмов для предсказания формы белков с заданной функцией» (Кирилл Алексеев)

 “Cardiogenetics: from research to diagnostic panel + Progrnostic systems for cardiopatients” (Герман Ашниев)

 «Суммаризация полилогов для формирования мемо-совещаний и встреч» (Михаил Захаров, Константин Вишневский, Марина Клубова)

 «Методы работы со словарями языковых моделей (трансфер, полисемия, семантически ориентированная токенизация)» (Елизавета Жемчужина)

 «Применение обучения с подкреплением в решении задач для рекомендательных систем» (Илья Левин, Сергей Самсонов, Евгений Фролов)

 «Библиотека деперсонализации данных» и «Использование генеративных моделей для поиска аномалий» (Денис Деркач, Михаил Гущин)

 «Природно-климатические риски. Оценка, стратегии и практики адаптации / Геоданные и геоаналитика для банковского сектора» (Татьяна Анискина, Николай Куричев, Александр Шелудков, Роберт Сандлерский)

 «Диагностика синдрома эмоционального выгорания сотрудников на основе анализа рабочих коммуникаций с помощью языковых моделей» (Петр Паршаков, София Паклина)

 “Application of Diffusion Models for Conditional Text Generation” (Вячеслав Мещанинов)

 “Cell death pathways in tumor microenvironment based on analysis of sCell RNA-seq data” (Анастасия Михайлова, Артем Бурцев)

“Combined machine-learning model for prediction of delayed major adverse cardiac events based on clinical, imaging and biomarker data for patients with myocardial infarction” (Александр Кирдеев)

Роберт Сандлерский, заведующий Международной лабораторией ландшафтной экологии факультета географии и геоинформационных технологий НИУ ВШЭ

«Представленные на мероприятии работы факультета географии и геоинформационных технологий и Международной лаборатории ландшафтной экологии были в основном посвящены применению ИИ для прогноза возможностей адаптации природно-социальных систем к климатическим изменениям. Сбер объединил на своей площадке действительно впечатляющее количество направлений использования ИИ, в том числе те, о которых еще недавно трудно было бы даже подумать. Общение с коллегами-исследователями и практиками в предложенном формате было весьма полезным с точки зрения обмена опытом и идеями».

Алексей Масютин, руководитель Центра искусственного интеллекта НИУ ВШЭ

«Исследователи Центра ИИ ВШЭ реализовали с 2022 по 2023 год более 20 проектов в интересах Сбера. По оценкам заказчиков, они принесли эффекты: снижение операционных расходов на риск-анализ, сокращение time-to-market адаптации больших языковых моделей, прирост откликов клиентов, повышение качества продуктов речевой аналитики и собственных систем видеосвязи и др. Сейчас совместно со Сбером мы активно формируем портфель проектов на 2024 год».