Открыть меню
683
286
3
15 тыс.
Wiki - Факультет компьютерных наук
Переключить меню настроек
Открыть персональное меню
Вы не представились системе
Ваш IP-адрес будет виден всем, если вы внесёте какие-либо изменения.

Развёртывание ML-моделей в высоконагруженных системах 26

Материал из Wiki - Факультет компьютерных наук

О курсе

Курс читается для студентов 4-го курса в 3-м модуле.


Полезные ссылки

Карточка курса и программа

Видеозаписи занятий

Github с материалами курса

Чат в telegram для обсуждений

Правила выставления оценок

Итоговая оценка вычисляется на основе оценки за домашние задания в модуле и оценки за финальный проект:

Итог = Округление(0.2 * ДЗ_1 + 0.25 * ДЗ_2 + 0.25 * ДЗ_3 + 0.3 * ПР)

ДЗ_* — оценки за домашние работы

ПР — оценка за финальный проект

Округление арифметическое.


Правила сдачи заданий

За каждый день просрочки после мягкого дедлайна снимается 2 балла. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Мы оставляем за собой право пригласить студента для защиты своего ДЗ, если заподозрим плагиат.

При наличии уважительной причины дедлайн по заданию может быть перенесён на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.


Материалы

Дата Тема Презентация Ссылка на запись
10.02.2026 Вводное занятие. Общая информация. Презентация

Запись

17.02.2026 Знакомство с Triton Inference Server. Презентация

Запись

24.02.2026 Backends: python, dali, tensorrt, onnx, llm. Презентация

Запись

03.03.2026 Конвертация моделей. Презентация

Запись

10.03.2026 Ансамбли. Презентация Запись
17.03.2026 Perf-analyzer. TBD TBD
24.03.2026 Сравнение подходов к развертыванию на практике. TBD TBD
31.03.2026 Итоговый проект, ответы на вопросы. TBD TBD


Домашние задания

Дата Тема Дедлайн
21.02.2026 Домашнее задание #1. Построить одношаговый пайплайн на базе Python Backend для классификационной модели с HuggingFace. 07.03.2026 23:30
10.03.2026 Домашнее задание #2. Конвертация моделей в onnx и работа с onnx backend. 24.03.2026 23:30
10.03.2026 Домашнее задание #3. Работа с ансамблями и их деплой. 24.03.2026 23:30