Ученые Вышки представили проекты по этической экспертизе в сфере ИИ
Технологии искусственного интеллекта уже стали неотъемлемой частью повседневной жизни и активно применяются в различных отраслях экономики. Однако этические вопросы использования ИИ все еще требуют обсуждения и осмысления. Сегодня в России с участием ученых НИУ ВШЭ ведется работа над несколькими отраслевыми приложениями к национальному Кодексу этики в сфере ИИ, в которых будут конкретные рекомендации в помощь каждому, кто нуждается в понимании и анализе рисков и угроз со стороны ИИ.
Эксперты Высшей школы экономики приняли участие в IV Международном форуме «Этика в сфере искусственного интеллекта: окно возможностей», который собрал ведущих специалистов и лидеров цифровой индустрии.
Сергей Наквасин
Сергей Наквасин, директор Национального центра развития искусственного интеллекта при Правительстве РФ (действует на базе НИУ ВШЭ), подчеркнул важность формирования этической культуры в области ИИ: «Культура ест стратегию на завтрак. Этика — ядро любой культуры. Если мы сейчас не договоримся о ключевых принципах этики, то вопрос благополучия нашего общества остается открытым». Средний уровень внедрения технологий ИИ в экономике России превысил 30%, и единственная возможность обеспечить эффективное и безопасное их применение — включить в управление рисками разработчиков ИИ и те организации, которые у себя его внедряют и применяют, полагает он. Сергей Наквасин напомнил, что в 2021 году в России по поручению президента был разработан Кодекс этики в сфере искусственного интеллекта. Высшая школа экономики присоединилась к кодексу в числе первых, а сегодня насчитывается более 800 подписантов, в том числе иностранных.
Сегодня ведется работа над несколькими отраслевыми приложениями к национальному Кодексу этики в сфере ИИ, рассказала Анастасия Углева, профессор, заместитель директора Центра трансфера и управления социально-экономической информацией, руководитель проекта «Этическая экспертиза в сфере ИИ» Центра искусственного интеллекта НИУ ВШЭ. Эти приложения будут учитывать специфику и потребность в выработке не только общих принципов, но и конкретных рекомендаций в помощь каждому, кто нуждается в понимании и анализе рисков и угроз со стороны технологий для обеспечения благополучия общества и здоровья нации.
Анастасия Углева
«Форум этики в сфере ИИ — само по себе примечательное событие, одна из немногих площадок, где действительно удается говорить собственно об этике представителям государства, общества, бизнеса. Это позитивно заряженная аудитория, вместе с тем критически осмысливающая перспективы внедрения ИИ в образование, медицину, транспорт и другие жизненно важные сферы», — подчеркнула она.
Анастасия Углева стала одним из спикеров сессии «Этика исследований в сфере ИИ», в рамках которой представители исследовательских центров различных образовательных и учебных заведений России продемонстрировали свои проекты, объяснив их суть простым языком. Участники обсудили ключевую роль исследовательских центров в развитии ИИ и важность взаимодействия ученых с бизнесом и конечными пользователями для создания безопасного и функционального продукта. Эксперт Вышки в своем выступлении проанализировала ключевые этические проблемы и дилеммы, возникающие в ходе исследований, а также трансформацию академической этики в связи с внедрением технологий ИИ в сам исследовательский процесс.
Кроме того, Анастасия Углева выступила модератором стратегической сессии «Этическое регулирование ИИ в образовании: от принципов к реализации», собравшей более 25 представителей средней и высшей школы, а также ведущих экспертов из сферы бизнеса. Кроме того, в ходе торжественной церемонии награждения лауреатов Премии за вклад в развитие этики в сфере искусственного интеллекта Анастасия Углева была отмечена среди экспертов, которые работают над созданием пространства ответственного и доверенного ИИ.
На постерной сессии форума был представлен чат-бот «Индекс этичности», разработанный в Центре искусственного интеллекта НИУ ВШЭ. Он помогает оценить понимание респондентами глубины этических вопросов, связанных с разработкой, внедрением и использованием алгоритмов ИИ в медицинской практике. Чат-бот был разработан в рамках проекта «Этическая экспертиза в сфере ИИ», который реализуется в Центре ИИ. Проект направлен на выработку принципов и стандартов оценки для проведения гуманитарной (этической) экспертизы, необходимой как на этапе разработки, так и на этапе внедрения систем искусственного интеллекта в различных общественных сферах.
На сессии «Возможности и риски для рынка труда в эпоху развития искусственного интеллекта» НИУ ВШЭ представляли Павел Травкин, заместитель проректора, и Александр Чулок, директор Центра научно-технологического прогнозирования ИСИЭЗ НИУ ВШЭ. Участники обсудили несколько ключевых вопросов: какие основания для опасений есть у россиян относительно внедрения ИИ, как изменится рынок труда в России, к чему готовиться работодателям и работникам, какие требования будут предъявляться к соискателям и какие компетенции им понадобятся.
Вам также может быть интересно:
Три команды ВШЭ стали победителями на всероссийском хакатоне «Цифровой прорыв»
В конце сентября в Москве состоялся всероссийский хакатон «Цифровой прорыв. Сезон: Искусственный интеллект». На соревнование собрались 314 команд и 1616 человек со всей страны. Они состязались в решении задач от партнеров хакатона — государственных организаций и компаний: «РЖД», «Росатома», Центра робототехники Сбера, «Сколтеха» и многих других. Три команды студентов факультета компьютерных наук НИУ ВШЭ приняли участие в хакатоне и выиграли в двух кейсах.
С помощью ученых НИУ ВШЭ и Сбера преподаватели смогут повысить качество онлайн-обучения
Ученые Центра искусственного интеллекта НИУ ВШЭ и исследователи Лаборатории искусственного интеллекта Сбербанка научились определять вовлеченность участников онлайн-мероприятий. Метод, основанный на анализе видео лица, помогает выявить, насколько слушатель заинтересован в материале. Научная статья о проведенном исследовании опубликована в рамках Международной конференции по искусственному интеллекту в образовании — AIED 2024.
Вышка расширит сотрудничество с Агентством стратегических инициатив для разработки передовых решений
В Высшей школе экономики прошел День знакомства университета и Агентства стратегических инициатив (АСИ). Стороны представили свои исследовательские и аналитические проекты и наметили направления совместной работы. Задача ученых и экспертов — повысить эффективность и ускорить внедрение в практику прорывных научных разработок по широкому спектру направлений — от экономических прогнозов до нейропротезирования.
Исследователи НИУ ВШЭ и Сбера добавят эмоций искусственному интеллекту
Ученые Центра искусственного интеллекта НИУ ВШЭ и исследователи Лаборатории искусственного интеллекта Сбербанка разработали специальную систему, которая с помощью больших языковых моделей сделает искусственный интеллект (AI) более эмоциональным при общении с человеком. Синтезом AI-эмоций займутся набирающие популярность мультиагентные модели. Научная работа о проведенном исследовании опубликована в рамках Международной совместной конференции по искусственному интеллекту — IJCAI 2024.
Вышка и «Яндекс» научат преподавателей российских вузов ИИ-грамотности
«Яндекс Образование» и факультет компьютерных наук НИУ ВШЭ (ФКН ВШЭ) создали совместный онлайн-гайд, посвященный промптингу — формулированию запросов к нейросетям. Он доступен всем на платформе «Яндекса» и в первую очередь будет полезен преподавателям, которые никогда не пользовались GPT в работе или только начинают применять ИИ-инструменты. Как правильно создать запрос к нейросети? Как грамотно использовать GPT-модели в образовательных целях? Какие задачи преподаватели могут решать с помощью искусственного интеллекта? Гайд отвечает на эти и другие вопросы по работе с нейросетями.
«Оставаться конкурентным специалистом без применения нейросетей может стать нелегкой задачей»
Цифровые технологии прочно вошли в нашу жизнь и продолжают стремительно развиваться. Неудивительно, что все чаще возникает вопрос, сможет ли однажды искусственный интеллект полностью заменить специалистов. О перспективах лингвистики в эпоху нейросетей рассуждает Даниил Осипов, кандидат филологических наук, доцент Школы иностранных языков НИУ ВШЭ.
В НИУ ВШЭ разработали нейросеть для оценки уровня владения английским языком
Нейросеть «ИИ Лингво» была разработана совместно Центром искусственного интеллекта, Школой иностранных языков и онлайн-кампусом НИУ ВШЭ. Модель обучена на основе тысяч экспертных оценок устных и письменных текстов. Система позволяет оценить способность к устному и письменному общению на английском языке.
Ученые НИУ ВШЭ рассказали о будущем искусственного интеллекта в судопроизводстве
Современные технологии меняют не только нашу повседневную жизнь, но и такие консервативные сферы, как судебная система. Сотрудники кафедры конституционного и административного права НИУ ВШЭ в Нижнем Новгороде Ирина Михеева и Олег Шерстобоев проанализировали возможности и вызовы, связанные с внедрением ИИ в судебный процесс. Исследование опубликовано в журнале «Вестник Российского университета дружбы народов».
«В третий раз соберем на площадке ВШЭ лучших ученых и исследователей ИИ в России»
Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Центр ИИ 25–26 октября в Москве организуют конференцию Fall into ML 2024. Главной темой ежегодного мероприятия станут перспективы развития фундаментального искусственного интеллекта. Титульным партнером конференции выступит Сбер.
В Вышке упростили разработку интеллектуальных сервисов
Ученые НИУ ВШЭ разработали MLOps-платформу, применение которой поможет внедрять эффективные и безопасные ИИ-решения во всех кампусах и подразделениях университета. В дальнейшем рассматривается возможность масштабирования инструмента на внешний рынок.