В Вышке разрабатывают технологию идентификации текстов, сгенерированных ИИ любого типа
Ученые НИУ ВШЭ работают над созданием приложения, которое позволяет установить, написан текст человеком или сгенерирован искусственным интеллектом. Подход, на который опирается приложение, носит универсальный характер и позволяет «ловить» самых разных ботов, построенных на разной архитектуре. В ближайшее время запланировано тестирование прототипа в широком диапазоне текстов. Предполагается, что платформа будет доступна пользователям в 2025 году.
Развитие технологий искусственного интеллекта привело к тому, что объем текстов, сгенерированных ИИ, увеличивается лавинообразно. При этом тексты, которые генерируют боты, сегодня уже сложно отличить от тех, которые пишут люди. Как понять, что ты читаешь текст, созданный ИИ? Эту задачу решают исследователи Высшей школы экономики.
Проект «Поймай бота: семантические пространства дополненного ума» реализуется в рамках стратегического проекта НИУ ВШЭ «Устойчивый мозг: нейрокогнитивные технологии адаптации, обучения, развития и реабилитации человека в изменяющейся среде» (программа «Приоритет-2030»).
Существующие на сегодня подходы к идентификации текстов, сгенерированных ботами, зачастую базируются на работе с несколькими конкретными архитектурами бота, что существенно снижает диапазон их применения и делает уязвимыми перед будущими поколениями ботов. Цель проекта Вышки — создание эффективной системы обнаружения текстов, написанных разными программами, в широком классе ботов для различных языков.
Василий Громов
«Наша разработка отличается от разработок конкурентов. Подавляющее большинство аналогичных проектов посвящено задаче идентификации конкретных архитектур генеративных языковых моделей (к примеру, ChatGPT). Это приводит к неизбежному устареванию таких наработок по мере развития инструментов генерации текстов и (или) возникновения новых типов ботов, а также вынуждает потенциальных потребителей использовать на практике сразу несколько моделей, ответственных за обнаружение ботов с различными архитектурами. Мы “ловим” всех ботов, а не только одного или нескольких, находящихся в нашем распоряжении», — рассказывает руководитель проекта Василий Громов, профессор департамента анализа данных и искусственного интеллекта факультета компьютерных наук НИУ ВШЭ.
Разрабатываемая система опирается на несколько различных областей математического знания: теория хаотических динамических систем, топологический анализ данных, теория размерности, теория кластеризации (четкой и нечеткой), нейронные сети и др. Это обеспечивает робастность системы: бот может «подделать» одну или даже несколько характеристик, но «подделать» их все крайне трудно.
«Нами проведены широкомасштабные вычислительные эксперименты с использованием различных методов анализа данных и искусственного интеллекта, что позволило определить наборы характеристик, наиболее подходящих для различения пространств и траекторий ботов и людей, и разработать прототип программного обеспечения», — говорит Василий Громов.
В ближайшее время запланировано тестирование прототипа в широком диапазоне текстов — от художественных произведений, сгенерированных ботами, до выпускных конкурсных работ студентов НИУ ВШЭ. Планируется, что широкому кругу пользователей платформа будет доступна в 2025 году. Сначала она сможет «ловить» ботов на русском и английском языках, но ученые уже работают над увеличением числа языков, с которыми может взаимодействовать система. Это прежде всего языки стран БРИКС и языки народов России.
Вам также может быть интересно:
В питерской Вышке завершилась школа-конференция по ИИ
В НИУ ВШЭ — Санкт-Петербург прошла международная школа-конференция по искусственному интеллекту — ISSCAI 2024. Ее организовали Школа физико-математических и компьютерных наук совместно с Лабораторией социальной и когнитивной информатики при поддержке VK и других партнеров. В недельном интенсиве приняли участие талантливые студенты, аспиранты и разработчики со всей страны — от Москвы до Екатеринбурга, а также из Казахстана и Египта. Ведущие эксперты из России, ОАЭ и Индии прочли курсы по ключевым трендам в области ИИ: от компьютерного зрения до обработки музыкальных сигналов.
Искусственный интеллект как драйвер развития отечественной экономики
Для развития отечественной экономики и роста производительности труда сегодня необходимо активное внедрение технологий искусственного интеллекта (ИИ). Эту задачу можно решить только благодаря тесному сотрудничеству между бизнесом, наукой и образованием. Об этом шла речь на стратегической сессии НИУ ВШЭ по развитию ИИ.
В нижегородской Вышке запустили бакалавриат по искусственному и дополненному интеллекту
Студенты первой сетевой программы высшего образования по искусственному и дополненному интеллекту НИУ ВШЭ в Нижнем Новгороде будут изучать передовые технологии с участием экспертов BigTech-компаний. Меморандум о партнерстве в рамках реализации программы «Технологии искусственного и дополненного интеллекта» подписан между нижегородским кампусом Высшей школы экономики, АНО «НЕЙМАРК», Альфа-Банком и VK.
«Выпускники онлайн-магистратуры ВШЭ и “Яндекса” будут востребованы на горизонте многих лет»
Вышка открывает набор на совместную с “Яндексом” онлайн-магистратуру «Искусственный интеллект в маркетинге и управлении продуктом». Студенты будут изучать автоматизацию маркетинга, машинное обучение и ИИ, управление проектами и другие предметы. Академический руководитель онлайн-магистратуры, доцент департамента больших данных и информационного поиска факультета компьютерных наук ВШЭ Александр Тараканов, и академический руководитель со стороны “Яндекса”, эксперт в сфере маркетинговых образовательных технологий Дмитрий Еременко, рассказали, какие задачи ИИ помогает решать бизнесу и какие специалисты потребуются рынку в будущем.
НИУ ВШЭ первым из российских университетов разработал и утвердил Декларацию этических принципов использования ИИ
Высшая школа экономики стала первым университетом в России, утвердившим Декларацию этических принципов создания и использования систем искусственного интеллекта. Документ станет важным ориентиром для всех участников образовательного процесса, задавая высокие стандарты и способствуя формированию ответственного подхода к использованию искусственного интеллекта. Декларация была утверждена Ученым советом 26 июня.
В НИУ ВШЭ изучили, как в России готовят высококвалифицированные кадры в области ИИ
Институт статистических исследований и экономики знаний НИУ ВШЭ представил новую серию регулярных информационно-аналитических материалов на основе специализированных обследований по изучению трендов, направлений и факторов развития и распространения технологий искусственного интеллекта в России и мире. Первый выпуск основан на результатах сплошного обследования 1100 вузов и их филиалов, проведенного в 2023 году. Его целью стало выявление масштабов и условий обучения технологиям ИИ в рамках образовательных программ высшего образования и дополнительных профессиональных программ в вузовском секторе.
Эксперты ВШЭ рассказали слушателям Таврической духовной семинарии об ИИ-технологиях
Делегация Вышки в июне побывала с визитом в Таврической духовной семинарии Симферопольской и Крымской епархии. Стороны обсудили развитие партнерских проектов и совместных инициатив, в частности студенческие экспедиции в рамках проекта «Открываем Россию заново». Кроме того, директор Института искусственного интеллекта и цифровых наук ВШЭ Алексей Масютин прочел лекцию об ИИ-технологиях.
В НИУ ВШЭ состоялась первая конференция «Искусственный интеллект в медиа»
В работе форума приняли участие представители бизнеса, коммуникационных агентств, медиа, а также эксперты Вышки. Они обсудили то, как ИИ изменит креативные индустрии и повлияет на личный бренд и может ли искусственный интеллект помочь бизнесу лучше понять своего клиента. Стоит отметить, что прошедшая конференция — первая из серии запланированных мероприятий для профессионалов медиарынка и коммуникаций.
ВШЭ открывает программу подготовки элитных ИИ-специалистов в сфере прорывных технологий
Высшая школа экономики запускает программу «ИИ 360: Инженерия искусственного интеллекта» в формате трека на флагманской бакалаврской программе «Прикладная математика и информатика» факультета компьютерных наук. Партнерами станут «Яндекс» и Сбер, а также сильнейшие технические вузы — ИТМО, МФТИ и Университет Иннополис.
Обучение с подкреплением позволило лучше работать генеративным потоковым нейросетям
Ученые Центра ИИ и Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ применили классические алгоритмы обучения с подкреплением для настройки генеративных потоковых сетей (GFlowNets). Это позволило улучшить работу GFlowNets, которые применяются уже три года для решения сложнейших научных задач на этапах моделирования, генерации гипотез и экспериментального проектирования. Результаты работы вошли в 5% лучших публикаций на Международной конференции по искусственному интеллекту и статистике AISTATS, которая состоялась 2–4 мая 2024 года в Валенсии.