Курс "Введение в глубокое обучение" для бакалавров 3 курса кафедры ММП ВМК МГУ, весенний семестр

Этот репозиторий содержит материалы к курсу "Введение в глубокое обучение", читаемого бакалаврам 3 курса кафедры ММП факультета ВМК МГУ в весеннем семестре 2026 года.

О курсе

Курс предоставляет систематическое введение в методы глубокого обучения и фокусируется на качественном изучении основ глубокого обучения. В курсе рассматриваются самые распространенные домены данных: изображений, естественного языка, звука, 3D представления, графов и табличных данных. При изучении различных доменов появляется возможность исследовать обучение нейронных сетей под разными углами. Области современного глубокого обучения имеют комплексную структуру. В основе курса лежит последовательный переход от общих фундаментальных концепций к изучению доменно-зависимых архитектур и идей. Курс начинается с математических фундаментальных основ, таких как автоматическое дифференцирование и методы оптимизации. Основная часть курса служит строго выстроенным путем изучения от классических нейросетевых архитектур компьютерного зрения до специализированных техник обучения больших языковых моделей. Финальная часть курса посвящена мультимодальным и генеративным моделям, которые отражают наиболее широкий спектр идей возникающих в глубоком обучении.

• Обязательный курс для студентов каф. ММП 3 курса, 6 семестр
• Отчётность: зачёт с оценкой, экзамен

Курс читается в поддержку курса "Математические методы распознавания образов" (машинное обучение, часть 2), читаемого на кафедре ММП. В ходе курса студенты выполняют различные практические задания.

Математические методы распознавания образов 2025-2026.

Дополнительные курсы по машинному и глубокому обучению от факультета ВМК МГУ, читаемые кафедрой ММП.

Общефакультетский курс лекций по машинному обучению 2025-2026.

Общефакультетский курс лекций по глубокому обучению 2025-2026.

Материалы

Введение в глубокое обучение 2025-2026, видеозаписи.

Материалы и видеозаписи прошлой итерации курса "Введение в глубокое обучение" указаны ниже.

Введение в глубокое обучение 2024-2025.

Введение в глубокое обучение 2024-2025, видеозаписи.

Материалы курса основаны на курсе "Практикум на ЭВМ", читаемого бакалаврам 3 курса кафедры ММП факультета ВМК МГУ в весеннем семестре. Материалы курса находятся в репозиториях mmp-practicum-team/mmp_practicum_spring_*.

Практикум на ЭВМ 2024, видеозаписи.

Практикум на ЭВМ 2023, видеозаписи.

Практикум на ЭВМ 2022, видеозаписи.

Практикум на ЭВМ 2021, видеозаписи.

Архивный курс лекций по глубинному обучению.

Занятия

Формат сдачи курса

Условия для получение зачета

• В рамках семестра предполагается выполнить пять больших и два средних практических заданий стоимостью 10 баллов каждое.
  • B ≥ 56 и 7 практических заданий сданы на оценку ≥ 4 ⇒ отлично
  • B ≥ 42 и 6 практических задания сданы на оценку ≥ 4 ⇒ хорошо
  • B ≥ 35 и 4 практических задания сданы на оценку ≥ 4 ⇒ удовлетворительно
  • иначе ⇒ неудовлетворительно

Формат сдачи экзамена

• Экзамен состоит из теоретического минимума и билета
• На подготовку письменного ответа по билету дается час
• Перед ответом по билету студент сдает теоретический минимум
• Незнание ответа на любой вопрос из теоретического минимума означает оценку неудовлетворительно
• При подготовке ответа по билету студент может пользоваться рукописными материалами, которые занимают не более одной стороны стандартного листа А4
• Во время ответа по билету нельзя пользоваться материалами подготовленными до экзамена, все необходимое должно быть в письменном ответе
• Экзаменатор может задавать произвольное число вопросов по курсу
• Дополнительные вопросы могут быть либо в форме теории, либо задачами по темам лекций
• Оценка за экзамен может быть неудовлетворительно, max(K - 1, 2), K, min(K + 1, 5), где K оценка за практические задания

Прогрессивная шкала штрафов

• В этом семстре в качестве эксперимента вводится новая система штрафов за просрочку дедлайна.
• Штраф на бонусы накладываться НЕ будет, их можно досдавать отдельно после мягкого дедлайна.
• Штраф за основную часть будет реализован по следующей шкале:
  • 1 день просрочки: -0.25 балла
  • 2 дня просрочки: -0.75 баллов
  • 3 дня просрочки: -1.5 баллов
  • 4 дня просрочки: -2.5 баллов
  • 5 дней просрочки: -3.5 баллов
  • 6 дней просрочки: -4.5 баллов
  • 7 дней просрочки: -5.5 баллов, далее - жесткий дедлайн.

Дальнейшие шаги

Курс "Введение в глубокое обучение" служит основой для дальнейшего изучения более углубленных курсов. Некоторые рассмотренные темы требуют более глубокого изучения и прохождения специализированных курсов. Команда курса рекомендует следующие отличные курсы, которые, кроме того, являются открытыми:

Углубленные темы глубокого обучения:

• Байесовские методы в машинном обучении, ММП – построение и применение различных вероятностных моделей машинного обучения;

• Нейробайесовские методы, ММП – построение и применение различных вероятностных моделей глубинного обучения;

• Обучение с подкреплением, ШАД – методы обучения моделей на основе взаимодействия со средой (аналогичный курс также проводится на ММП);

• Deep Learning 2, ФКН – продвинутые темы глубокого обучения от приглашенных экспертов своих областей;

Методы повышения эффективности обучения и инференса нейронных сетей:

• Введение в эффективные системы глубокого обучения, ММП;

• Efficient Deep Learning Systems, ФКН, ШАД;

Обработка языка:

• Математические методы обработки текстов, ММП – углубленное изучение языковых моделей и современных архитектур;

• Natural Language Processing, ФКН;

• Natural Language Processing, ШАД;

Генеративные модели:

• Генеративные модели на основе диффузии, ФКН – построение и работа с диффузионными моделями, методы оптимального транспорта и Мост Шрёдингера;

• Visual GenAI Course, ШАД – передовые генеративные модели для изображений/видео/3D (в основном про модели диффузии);

• Deep Generative Models, ШАД – различные генеративные модели для изображений;

Другие домены:

• Deep Learning for Audio, ФКН – методы глубокого обучения для работы с аудио;

• Современные методы обработки звука, ММП – методы глубокого обучения для работы с аудио и сигналами (пока нет репозитория);

• 3D Computer Vision, ФКН – методы обработки и работы с 3D, способы 3D реконструкции;

Важно: ссылки иногда ведут не на конкретные репозитории, а на организации, в которых выкладываются или будут в скором времени выложены основные материалы и записи.

Команда курса

Преподаватели: Оганов Александр, Феоктистов Дмитрий, Богачев Владимир, Алексеев Илья, Загатин Даниил, Денисов Егор, Голубев Роман, Ильясов Эрик, Дегтев Василий, Максим Марьясов, Мелихов Дмитрий, Иванов Егор, Овсиенко Олеся, Табаченков Андрей, Ким Роман, Булкин Антон, Курцев Дмитрий, Акопова Лена

Организация: Оганов Александр

Руководство и менторство: Кравцова Ольга, Находнов Максим, Кропотов Дмитрий

Отдельная благодарность за гостевые лекции: Алиеву Мишану, Баранчуку Дмитрию, Рубачёву Ивану