Работа с LLM GigaChat

2024/2025

Статус: Дисциплина общефакультетского пула

Кто читает: Факультет математики

Когда читается: 1, 2 модуль

Онлайн-часы: 107

Охват аудитории: для своего кампуса

Преподаватели: Гончарова Инна Владимировна

Язык: русский

Полная версия программы учебной дисциплины Задать вопрос

Аннотация

Онлайн-курс СберУниверситета «Работа с LLM GigaChat» для магистрантов образовательной программы «Совместная магистратура НИУ ВШЭ и Центра педагогического мастерства» относится к дисциплине по выбору (blended – курс). Курс предлагается магистрантам 1-го и 2-го года обучения, в осеннем семестре, количество кредитов-3. Этот курс предназначен для тех, кто хочет научиться использовать мощную нейросетевую модель GigaChat в своих научно-исследовательских проектах, а также использовать полученные знания на практике, при подготовке учебных занятий. Вы познакомитесь с основами работы с GigaChat, узнаете о различных типах промптов и научитесь составлять эффективные запросы для модели. Вы также узнаете о том, как использовать GigaChat в науке, рекламе, бизнесе и для решения творческих задач. Структура курса состоит из двух больших частей: Промпт-инжиниринг и Продвинутый уровень: системный промптинг, GigaChain, RAG.

Цель освоения дисциплины

Изучение основ генеративного Искусственного Интеллекта, применение полученных компетенций в научно-исследовательской деятельности и для решения профессиональных практических задач, например, для подготовки учебных занятий в общеобразовательном учреждении. Перед началом прохождения курса проводится встреча с экзаменатором Гончаровой И.В. (i.goncharova@hse.ru), на которой подробно обсуждаются задания (могут носить индивидуальный характер, связанный, например, с использованием искусственного интеллекта в курсовой работе, выпускной квалификационной работе, разработке методических материалов при подготовке урока, проектной деятельности, научно-исследовательской деятельности и др.), а также требования, критерии оценивания. Задания и тесты сдаются в строго установленные на первой встрече с экзаменатором сроки, в течение учебного семестра, до наступления экзаменационной сессии.

Планируемые результаты обучения

Умение интегрировать интерфейс GigaChat в рабочие инструменты, донастраивать его самостоятельно и на библиотеках данных, создавать системные запросы. Использовать в профессиональной педагогической деятельности
Умение писать и уточнять запросы нейросети, чтобы решать самые разные задачи, связанные с научно-исследовательской деятельностью и в практической работе.
Навыки интеграции GigaChat в рабочие инструменты, умение донастраивать его самостоятельно и на библиотеках данных, создавать системные запросы.

Содержание учебной дисциплины

I. Промпт-инжиниринг
II. Продвинутый уровень: системный промптинг, GigaChain, RAG

Элементы контроля

Тест 1
Задание 1
Сгенерируйте текст с помощью GigaChat. Пусть нейросеть поможет вам решить текущую учебную задачу или практическую задачу. К таким задачам могут быть отнесены: написание фрагмента научного текста по теме курсовой работы, составление плана урока в рамках педагогической практики и др. Используйте разные типы промптов, по необходимости сочетая их между собой. Добавьте в запрос дополнительные элементы: контекст, инструкцию, роль, стиль/тон текста. Задайте дополнительные вопросы, чтобы улучшить качество результата.
Задание 2
Представьте, что вы готовите презентацию проекта или отчёт по задаче, над которой сейчас работаете. С помощью Kandinsky сгенерируйте изображение, которое будет титульным слайдом этой презентации. Обложка создаёт первое впечатление, её задача — привлечь внимание, заинтересовать, «растопить лёд». Для этого выберите метафору для будущего изображения и напишите промпт с подробным описанием объекта и его окружения, укажите палитру, освещение, стиль. Попробуйте несколько генераций, при необходимости измените текст промпта.
Тест 2
Тест 3
Задание 3
Авторизуйтесь на сайте developers.sber.ru, создайте проект GigaChat API, получите авторизационные данные. Затем авторизуйтесь на платформе Postman, создайте свой fork (ответвление) и получите токен доступа – всё, как в инструкции к этому уроку. Напишите промпт для GigaChat. Задайте модели профессиональную роль «system» и поставьте задачу, если нужно, подайте на ввод данные, которые она должна обработать. Поэкспериментируйте с настройками параметров ответов: температурой и объёмом словаря модели, длиной ответа и количеством вариаций. Получите хотя бы три разных ответа на одну задачу и сравните результаты. Опционально: протестируйте роль «assistant». Напишите промпт так, чтобы, отвечая на него, модель учитывала свой предыдущий ответ.
Задание 4
Напишите системный промпт для воображаемого помощника на тестовой платформе Postman. назначьте ему системную роль; поставьте задачу и задайте контекст; напишите инструкцию, какие действия надо выполнить; уточните формат ответа: стиль, тон, синтаксис; поэкспериментируйте с параметром «температура» или «top_p», сравните содержание ответов.
Тест 4
Задание 5
Получите токен доступа к API GigaChat; Установите библиотеку GigaChain с помощью pip; Выполните код, как в этом примере. Суммаризируйте одну-две главы любимой книги или любой текстовый документ.
Задание 6
Выберите на LeetCode задачу по программированию на Python, которую решите с помощью GigaChat. Выберите любую, которая нравится и подходит по уровню. Придумайте оптимальную цепочку рассуждений для её решения. Продемонстрируйте, как работает ваша цепочка, когда GigaChat решает задачу. Напишите условие задачи, результат работы каждого шага и финальный ответ — в таком формате: Условие: <условие> Шаг 1, запрос: <запрос в модель на 1 шаге> Шаг 1, ответ: <ответ модели на 1 шаге> … *Как устроена платформа LeetCode, читайте тут (гид для новых пользователей, на английском).
Тест 5
Тест 6
Экзамен
На экзамен выносятся теоретические вопросы по всем пунктам разделов. В билете два теоретических вопроса и одно практическое задание. Перечень вопросов к экзамену: 1. LLM: что такое большие языковые модели 2. GigaChat: знакомство с нейросетевой моделью 3. Где работает GigaChat 4. Базовые понятия: промпт и промпт-инжиниринг 5. Типы промптов 6. Дополнительные элементы промптов 7. Методы промптинга 8. Как составлять промпты для Kandinsky 9. Ограничения Kandinsky в GigaChat 10. Gigachat в бизнес-процессах 11. Как подготовиться к созданию инструмента на базе GigaChat 12. Уровни знания модели (L0/L1/L2) и способы дообучения 13. Что такое API GigaChat и зачем он нужен 14. Как получить доступ к API и начать работать 15. Как работать с API: Роли 16. Как работать с API: Служебные параметры 17. Методы создания системных промптов 18. Методы Zero-shot и Few-shot в системном промптинге 19. Что такое GigaChain и как его установить 20. Как писать промпты и работать с хабом готовых промптов 21. RAG: Как научить GigaChat отвечать на вопросы по документам 22. Chain-of-thoughts («цепочка размышлений») 23. Метод SmartLLM Pipeline 24. RAG: обзор, работа с векторными базами данных и продвинутые методы 25.Векторная база данных: базовое устройство, документы и атрибуты 26. Семантический поиск по векторной базе 27. Продвинутые техники RAG

Промежуточная аттестация

2024/2025 2nd module
0.05 * Задание 1 + 0.05 * Задание 2 + 0.05 * Задание 3 + 0.05 * Задание 4 + 0.05 * Задание 5 + 0.05 * Задание 6 + 0.05 * Тест 1 + 0.05 * Тест 2 + 0.05 * Тест 3 + 0.05 * Тест 4 + 0.05 * Тест 5 + 0.05 * Тест 6 + 0.4 * Экзамен

Список литературы

Авторы

Гончарова Инна Владимировна

Программа дисциплины