Приблизительные графовые нейтронные сети с использованием хэш функций

ФИО студента: Бабак Артём Юрьевич

Кампус/факультет: Факультет компьютерных наук

Программа: Прикладная математика и информатика (Бакалавриат)

Оценка: 9

Год защиты: 2024

В последние годы машинное обучение для графов достигло значительного прогресса, особенно в области малых графов, таких как молекулы. Эти успехи связаны с применением архитектуры трансформер, которая приобрела широкую известность благодаря достижению передовых результатов в различных областях глубокого обучения. Эти графовые сети используют вариации глобальных механизмов внимания, позволяющие взаимодействовать всем узлам, но страдают от ограниченной масштабируемости. В нашей работе мы решаем эту проблему путем исследования вероятностных структур данных, в частности, графа Блума, который сжимает информацию о наборе узлов в компактный вектор, тем самым сокращая потребление памяти и повышая скорость механизма глобального внимания. Мы ожидаем, что предложенный нами подход покажет сопоставимые результаты с точки зрения качества и превосходную производительность с точки зрения скорости.

Текст работы (работа добавлена 20 мая 2024 г.)

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ