Research Seminar "Transformer Models"

2024/2025

Academic Year

RUS

Instruction in Russian

Delivered at:

Joint Department with Sberbank ‘Financial Technologies and Data Analysis’

Course type:

Elective course

When:

2 year, 1 module

Программа дисциплины

Аннотация

Обзор современных трансформерных архитектур, погружение в схему работы механизмов внимания (attention), анализ сильных и слабых сторон, разбор различных типов моделей (энкодеры, декодеры, энкодеры-декодеры), типов задач. Анализ последних работ по модификациям архитектур трансформеров, разбор деталей обучения моделей.