В Вышке разрабатывают технологию идентификации текстов, сгенерированных ИИ любого типа
Ученые НИУ ВШЭ работают над созданием приложения, которое позволяет установить, написан текст человеком или сгенерирован искусственным интеллектом. Подход, на который опирается приложение, носит универсальный характер и позволяет «ловить» самых разных ботов, построенных на разной архитектуре. В ближайшее время запланировано тестирование прототипа в широком диапазоне текстов. Предполагается, что платформа будет доступна пользователям в 2025 году.
Развитие технологий искусственного интеллекта привело к тому, что объем текстов, сгенерированных ИИ, увеличивается лавинообразно. При этом тексты, которые генерируют боты, сегодня уже сложно отличить от тех, которые пишут люди. Как понять, что ты читаешь текст, созданный ИИ? Эту задачу решают исследователи Высшей школы экономики.
Проект «Поймай бота: семантические пространства дополненного ума» реализуется в рамках стратегического проекта НИУ ВШЭ «Устойчивый мозг: нейрокогнитивные технологии адаптации, обучения, развития и реабилитации человека в изменяющейся среде» (программа «Приоритет-2030»).
Существующие на сегодня подходы к идентификации текстов, сгенерированных ботами, зачастую базируются на работе с несколькими конкретными архитектурами бота, что существенно снижает диапазон их применения и делает уязвимыми перед будущими поколениями ботов. Цель проекта Вышки — создание эффективной системы обнаружения текстов, написанных разными программами, в широком классе ботов для различных языков.
Василий Громов
«Наша разработка отличается от разработок конкурентов. Подавляющее большинство аналогичных проектов посвящено задаче идентификации конкретных архитектур генеративных языковых моделей (к примеру, ChatGPT). Это приводит к неизбежному устареванию таких наработок по мере развития инструментов генерации текстов и (или) возникновения новых типов ботов, а также вынуждает потенциальных потребителей использовать на практике сразу несколько моделей, ответственных за обнаружение ботов с различными архитектурами. Мы “ловим” всех ботов, а не только одного или нескольких, находящихся в нашем распоряжении», — рассказывает руководитель проекта Василий Громов, профессор департамента анализа данных и искусственного интеллекта факультета компьютерных наук НИУ ВШЭ.
Разрабатываемая система опирается на несколько различных областей математического знания: теория хаотических динамических систем, топологический анализ данных, теория размерности, теория кластеризации (четкой и нечеткой), нейронные сети и др. Это обеспечивает робастность системы: бот может «подделать» одну или даже несколько характеристик, но «подделать» их все крайне трудно.
«Нами проведены широкомасштабные вычислительные эксперименты с использованием различных методов анализа данных и искусственного интеллекта, что позволило определить наборы характеристик, наиболее подходящих для различения пространств и траекторий ботов и людей, и разработать прототип программного обеспечения», — говорит Василий Громов.
В ближайшее время запланировано тестирование прототипа в широком диапазоне текстов — от художественных произведений, сгенерированных ботами, до выпускных конкурсных работ студентов НИУ ВШЭ. Планируется, что широкому кругу пользователей платформа будет доступна в 2025 году. Сначала она сможет «ловить» ботов на русском и английском языках, но ученые уже работают над увеличением числа языков, с которыми может взаимодействовать система. Это прежде всего языки стран БРИКС и языки народов России.
Вам также может быть интересно:
В Вышке изучили, как студенты российских вузов осваивают технологии ИИ
Институт статистических исследований и экономики знаний НИУ ВШЭ анализирует масштабы и условия обучения технологиям искусственного интеллекта в университетах страны, для которых это становится важной частью подготовки высококвалифицированных кадров не только в сфере ИКТ, но и в других отраслях экономики. Исследование реализуется в рамках федерального проекта «Искусственный интеллект» при поддержке Минэкономразвития России.
Законы физики: как Высшая школа экономики стала Высшей школой IT-технологий и ИИ
Сотрудничество лидеров IT-индустрии и ведущих вузов в подготовке высококлассных специалистов стало ключевым трендом последних лет. Как построено IT-образование в Вышке и как университет стал лидером в сфере искусственного интеллекта, рассказал ректор НИУ ВШЭ Никита Анисимов на пресс-завтраке «Яндекс Образования» «Бигтехи и университеты: итоги приемной кампании — 2024/25 и модели партнерства».
Территория будущего: Вышка Онлайн принимает участие в фестивале «Москва 2030»
Пространство онлайн-кампуса НИУ ВШЭ открылось на фестивале «Территория будущего. Москва 2030», который проходит на нескольких знаковых площадках столицы в августе — сентябре. Гостей Вышки Онлайн ждут лекции и мастер-классы, карьерные консультации, нетворкинг, VR-квесты и развлечения.
Искусственный интеллект с Харизмой
Высшая школа экономики активно использует передовые цифровые технологии в науке и образовании. Рассказываем в нашей статье о том, как суперкомпьютер помогает исследователям университета.
Студенты НИУ ВШЭ успешно защитили дипломы, в работе над которыми применили YandexGPT
Этим летом студенты нескольких направлений подготовки НИУ ВШЭ — «Философия», «Медиакоммуникации», «Международные отношения» и «Востоковедение» — впервые использовали нейросеть в процессе написания дипломных и курсовых работ. Университет разрешил применять возможности YandexGPT, генеративной технологии Яндекса, для решения заранее определённого перечня задач, на которые обычно у студента уходит много времени. Она помогала собирать, анализировать и обобщать информацию, проверять текст на ошибки и править оформление, а также разбираться в сложных темах и структурировать ход размышлений.
Интеллект искусственный и дополненный: связь бизнеса, образования и науки
Сегодня фраза «приручить искусственный интеллект» уже не звучит как суперспособность будущего. Эти технологии революционно меняют жизнь, от голосовых помощников и систем «умный дом» до создания цифровых двойников и секвенирования генома. О связи науки, бизнеса и образования в развитии искусственного интеллекта рассказала декан факультета информатики, математики и компьютерных наук НИУ ВШЭ – Нижний Новгород Наталья Асеева.
НИУ ВШЭ, Яндекс и ИТМО запустили аспирантуру в области ИИ и гранты для молодых ученых
НИУ ВШЭ в партнерстве с Яндекс создает первую аспирантуру по искусственному интеллекту с уклоном в практику (еще одну такую аспирантуру компания откроет в ИТМО). Цель — предложить лучшие условия и инфраструктуру для развития молодых ученых в стране. Каждый год обучения аспиранты будут получать гранты по 800 тысяч рублей, чтобы создавать новые технологии в области ИИ и быстро внедрять свои разработки на практике, в индустрии.
Вышка — в лидерах рейтинга вузов Альянса в сфере ИИ
Альянс в сфере искусственного интеллекта опубликовал новый рейтинг вузов России по качеству подготовки специалистов в области ИИ. Высшая школа экономики как и в прошлом году вошла в группу лидеров А+ вместе с МФТИ и ИТМО. Всего участниками рейтинга стали 207 университетов из 69 регионов страны. В 2024 году на профильные программы в области искусственного интеллекта этих вузов были приняты более 35 тыс. студентов.
В питерской Вышке завершилась школа-конференция по ИИ
В НИУ ВШЭ — Санкт-Петербург прошла международная школа-конференция по искусственному интеллекту — ISSCAI 2024. Ее организовали Школа физико-математических и компьютерных наук совместно с Лабораторией социальной и когнитивной информатики при поддержке VK и других партнеров. В недельном интенсиве приняли участие талантливые студенты, аспиранты и разработчики со всей страны — от Москвы до Екатеринбурга, а также из Казахстана и Египта. Ведущие эксперты из России, ОАЭ и Индии прочли курсы по ключевым трендам в области ИИ: от компьютерного зрения до обработки музыкальных сигналов.
Искусственный интеллект как драйвер развития отечественной экономики
Для развития отечественной экономики и роста производительности труда сегодня необходимо активное внедрение технологий искусственного интеллекта (ИИ). Эту задачу можно решить только благодаря тесному сотрудничеству между бизнесом, наукой и образованием. Об этом шла речь на стратегической сессии НИУ ВШЭ по развитию ИИ.