Нейросетевые методы в обработке текстов

Бакалавриат 2024/2025

Статус: Курс по выбору (Фундаментальная и компьютерная лингвистика)

Направление: 45.03.03. Фундаментальная и прикладная лингвистика

Кто читает: Школа лингвистики

Где читается: Факультет гуманитарных наук

Когда читается: 4-й курс, 1-3 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для своего кампуса

Преподаватели: Москворецкий Виктор Витальевич

Язык: русский

Кредиты: 5

Полная версия программы учебной дисциплины Задать вопрос

Аннотация

Курс знакомит студентов с рядом алгоритмов и структур данных для обработки текстов, дает представление о базовых понятиях и алгоритмах машинного обучения, формирует практические навыки применения машинного обучения в задачах обработки текстов.

Цель освоения дисциплины

Знакомство с рядом алгоритмов и структур данных для автоматической обработки текста (NLP)
Знакомство с базовыми понятиями и алгоритмами машинного обучения
Формирование практических навыков применения машинного обучения в задачах NLP

Планируемые результаты обучения

знает и умеет реализовывать на Python различные методы индексации корпуса
знает теоретические основы информационного поиска
умеет реализовать поисковой движок на нескольких алгоритмах индексации как production проект
умение оценивать качество модели и анализировать ошибки
умение подготовить данные для решения задач NLP
умение применить модели машинного и глубокого обучения для решения задач NLP: классификации текстов, генерации текста, тегирования последовательности и извлечения информации
умение проектировать архитектуру нейронной сети в зависимости от задачи

Содержание учебной дисциплины

Информационный поиск
Предобработка данных
Базовые понятия машинного обучения, алгоритмы машинного обучения для задач классификации, кластеризации и регрессии
Избранные главы математики для машинного обучения
FFN, CNN, RNN, LSTM
Sequence-to-sequence, Sequence Tagging, Language Modeling
Статические эмбеддинги (Word2Vec, FastText)
Контекстуальные эмбеддинги (BERT, ELMo)

Элементы контроля

Проект
Домашнее задание
Экзамен
формат сдачи контрольного мероприятия зависит от формата проведения занятий (для онлайн-занятий – возможно использование прокторинга)

Промежуточная аттестация

2024/2025 2nd module
Накоп 0,7 + Экзамен 0,3 Накоп = 0,25 дз1 + 0,25 дз2 + 0,5 защита проекта + 0,02 разбор статьи (бонусные баллы, максимум 0,1) Автоматы есть начиная с 6
2024/2025 3rd module
Накоп 0,7 + Экзамен 0,3 Накоп = 0,25 дз1 + 0,25 дз2 + 0,5 защита проекта + 0,02 разбор статьи (бонусные баллы, максимум 0,1) Автоматы есть начиная с 6

Список литературы

Авторы

Королева Анастасия Романовна

Программа дисциплины