https://www.wikicshse.ru/index.php?action=history&feed=atom&title=%D0%9E%D1%81%D0%BD%D0%BE%D0%B2%D1%8B_%D1%82%D0%B5%D0%BD%D0%B7%D0%BE%D1%80%D0%BD%D1%8B%D1%85_%D0%B2%D1%8B%D1%87%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%B8%D0%B9_%282023%2F24%29
Основы тензорных вычислений (2023/24) - История изменений
2026-06-06T15:01:20Z
История изменений этой страницы в вики
MediaWiki 1.45.3
https://www.wikicshse.ru/index.php?title=%D0%9E%D1%81%D0%BD%D0%BE%D0%B2%D1%8B_%D1%82%D0%B5%D0%BD%D0%B7%D0%BE%D1%80%D0%BD%D1%8B%D1%85_%D0%B2%D1%8B%D1%87%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%B8%D0%B9_(2023/24)&diff=1620&oldid=prev
imported>Alsenderovich: добавила ссылки на записи лекций и семинаров
2023-12-18T14:34:45Z
<p>добавила ссылки на записи лекций и семинаров</p>
<p><b>Новая страница</b></p><div><br />
== О курсе ==<br />
<br />
Курс читается для студентов 3-го и 4-го курса ПМИ.<br />
<br />
'''Лектор:''' [https://t.me/mrakhuba Рахуба Максим Владимирович]<br />
<br />
'''Семинарист:''' [https://t.me/JohanDDC Пешехонов Иван Дмитриевич]<br />
<br />
'''Учебные ассистенты:''' [https://t.me/ir4kgL Ира Голобородько], [https://t.me/elexunix Алексей Слизков], [https://t.me/strange_guest Александра Сендерович]<br />
<br />
== Полезные ссылки ==<br />
<br />
'''[https://docs.google.com/spreadsheets/d/1NRNG0V1fQRBtu2sA-w2DU73l2kUwthmZy1c6nval42I/edit#gid=0 Ведомость]'''<br />
<br />
[https://disk.yandex.ru/d/NHLEj3iIL7qsUg Материалы курса]<br />
<br />
[https://disk.yandex.ru/d/NHLEj3iIL7qsUg/video Записи занятий]<br />
<br />
[https://us06web.zoom.us/j/88055137322?pwd=bmRxUGZPRzY2MGFRSWtmTnN5dHI5QT09 Ссылка на zoom]<br />
<br />
[https://t.me/+lx41tynsIik4ZDIy Телеграм-канал курса]<br />
<br />
== Лекции и семинары ==<br />
<br />
* '''Лекция 1. Введение.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture1.pdf&name=lecture1.pdf Конспект] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/video/lecture1.mp4 Zoom-запись]] Тензоры и тензорные произведения. Свёртки тензоров. Тензоры как мультилинейные отображения: нормы, сингулярные числа и векторы.<br />
* '''Семинар 1.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar1.pdf&name=seminar1.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/video/seminar1.mp4 Zoom-запись]] Абстрактные тензоры. Универсальное свойство тензорного произведения. Тензорные диаграммы. Сингулярные числа и векторы (продолжение).<br />
* '''Лекция 2. Каноническое разложение тензоров (CP).''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture2.pdf&name=lecture2.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/video/lecture2.mp4 Zoom-запись]] Определение. Канонический ранг тензоров. Произведение Хатри-Рао. Оценки на ранг. Единственность разложения.<br />
* '''Семинар 2.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar2.pdf&name=seminar2.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/video/seminar2.mp4 Zoom-запись]] Тензорные диаграммы (продолжение). Каноническое разложение: пример вычисления, комплексный вариант. Приближение тензорами меньшего ранга.<br />
* '''Лекция 3. Алгоритмы вычисления CP-разложения.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture3.pdf&name=lecture3.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/video/lecture3.mp4 Zoom-запись]] Единственность разложения (продолжение). Алгоритм Дженриха. ALS. Гаусс-Ньютон.<br />
* '''Семинар 3.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2FSeminar%203.%20Вычисление%20канонического%20%20разложения.pdf&name=Seminar%203.%20Вычисление%20канонического%20%20разложения.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/video/seminar3.mp4 Zoom-запись]] Построение канонического разложения: метод Ньютона, метод Гаусса-Ньютона.<br />
* '''Лекция 4. Обобщение SVD на многомерный случай.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture4.pdf&name=lecture4.pdf Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-03T11-40-49Z.mp4 Запись]] Разложение Таккера. Higher-order SVD (HOSVD). Приближение тензора тензором меньшего ранга, T-HOSVD (truncated HOSVD).<br />
* '''Семинар 4.''' [[https://disk.yandex.ru/d/NHLEj3iIL7qsUg/seminars/Seminar%204 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-03T11-40-49Z.mp4 Запись]] T-HOSVD (продолжение). Переход к новому базису в тензорном произведении пространств. Связь между тензорами и ЭЭГ. Эффективное вычисление тензорных операций.<br />
* '''Лекция 5. Обобщение SVD на многомерный случай — 2.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture5.pdf&name=lecture5.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-10T11-37-18Z.mp4 Запись]] Квазиоптимальность T-HOSVD. Алгоритмы поиска разложения Таккера: HOSVD, HOOI. "Арифметика" малоранговых тензоров.<br />
* '''Семинар 5.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar5.pdf&name=seminar5.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-10T11-37-18Z.mp4 Запись]] (Не)Единственность разложения Таккера. Приведение разложения Таккера к HOSVD. T-HOSVD (продолжение).<br />
* '''Лекция 6. Приложения тензорных вычислений.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture6.pdf&name=lecture6.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-17T11-33-07Z.mp4 Zoom-запись]] "Арифметика" малоранговых тензоров (продолжение). Некоторые приложения: мультилинейный PCA, задача коллаборативной фильтрации, графы знаний, сжатие слоёв нейросетей. Проклятье размерности.<br />
* '''Семинар 6.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar6.pdf&name=seminar6.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-17T13-08-45Z.mp4 Zoom-запись]] ST-HOSVD. HOOI vs ALS. Сложность алгоритмов. Поэлементное умножение тензоров. Поэлементное обращение тензора.<br />
* '''Лекция 7. Разложение тензорного поезда (TT).''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture7.pdf&name=lecture7.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-24T11-39-57Z.mp4 Zoom-запись]] Определение, формы записи. Сильное кронекерово произведение. TT-ранги. Ортогонализация ядер.<br />
* '''Семинар 7.''' [[https://disk.yandex.ru/d/NHLEj3iIL7qsUg/seminars/Seminar%207 Конспект][https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-10-24T13-16-37Z.mp4 Zoom-запись]] Разреженные тензоры. Numba. TT-разложение: пример вычисления.<br />
* '''Лекция 8. TT-разложение (продолжение).''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture8.pdf&name=lecture8.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-11-07T11-37-09Z.mp4 Zoom-запись]] Ортогонализация ядер (продолжение). Алгоритм TT-SVD. Эффективная рекомпрессия TT-разложения. Арифметика в TT-формате.<br />
* '''Семинар 8.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar8.pdf&name=seminar8.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-11-07T13-09-36Z.mp4 Zoom-запись]] TT-SVD в виде псевдокода. Почему ошибка в TT-SVD не накапливается экспоненциально? TT-SVD с округлением.<br />
* '''Лекция 9. Линейные операторы в TT-формате.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture9.pdf&name=lecture9.pdf&nosw=1 Конспект] [https://disk.yandex.ru/i/wB3wA-bGtvn3Zg Запись]] Введение, формулировка, где встречаются. ALS для TT. DMRG. Крестовая аппроксимация матриц.<br />
* '''Семинар 9.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar9.pdf&name=seminar9.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-11-14T13-06-04Z.mp4 Zoom-запись]] TT-матрицы (продолжение). Примеры приведения операторов к TT-формату. Переход от канонического разложения к TT-разложению. ALS для TT (продолжение).<br />
* '''Лекция 10. Крестовая аппроксимация тензоров. Риманова оптимизация.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture10.pdf&name=lecture10.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/21_11_Рахуба.MP4 Zoom-запись]] Крестовая аппроксимация матриц (продолжение). Крестовая аппроксимация тензоров, TT-cross. Интегрирование многомерных функций. Методы римановой оптимизации.<br />
* '''Семинар 10.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar10.pdf&name=seminar10.pdf Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/21_11_Пешехонов.MP4 Zoom-запись]] Оптимизация на многообразиях (продолжение). Касательное пространство к S^{n-1}. Минимальное собственное значение симметричной вещественной матрицы. Многообразие матриц фиксированного ранга, касательное пространство к нему. Многообразие тензоров фиксированного TT-ранга.<br />
* '''Лекция 11. Риманова оптимизация. Иерархический Таккер.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture11.pdf&name=lecture11.pdf Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-11-28T11-40-42Z.mp4 Zoom-запись]] Риманова оптимизация (продолжение). Разложение иерархического Таккера (HT): определение, ранги, ортогонализация, сложение. Замкнутость множеств тензоров ограниченного ранга.<br />
* '''Семинар 11.''' [[https://docs.yandex.ru/docs/view?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2FSeminar%2011%2Fseminar11.pdf&name=seminar11.pdf&nosw=1 Конспект] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/seminars/Seminar%2011/Seminar_11.ipynb Ноутбук] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/Лекция%2BСеминар%202023-11-28T13-11-24Z.mp4 Zoom-запись]] Является ли TT частным случаем HT? Степени свободы в HT и TT. Пример HT-разложения. Библиотека ttpy.<br />
* '''Лекция 12. Обзор тензорных сетей.''' [[https://docviewer.yandex.ru/?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Flectures%2Flecture12.pdf&name=lecture12.pdf Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/5_12_Рахуба.MP4 Zoom-запись]] Замкнутость тензорных сетей: теорема Ландсберга. Популярные тензорные сети: тензорное кольцо (TR), PEPS, MERA. Ранги произвольных развёрток. Канонические формы тензорных сетей. Тензоризация в ML. Приближение функций по сетке.<br />
* '''Семинар 12.''' [[https://docviewer.yandex.ru/?url=ya-disk-public%3A%2F%2FH6WPvV2D4DTxeO2KJqwqoNOwFmlTI7vMlna7Yt5bhmeDXxD6wwafAM6c8sgF0idnq%2FJ6bpmRyOJonT3VoXnDag%3D%3D%3A%2Fseminars%2Fseminar12.pdf&name=seminar12.pdf Конспект] [https://disk.yandex.ru/d/zl7DgU7FmuJKLg/Основы%20тензорных%20вычислений/5_12_Пешехонов.MP4 Zoom-запись]] Теорема Ландсберга: пример незамкнутого множества. TR-разложение (продолжение). MERA (продолжение). Введение в пракДЗ-3. PEPS (продолжение).<br />
<br />
== Домашние задания ==<br />
<br />
Теоретические ДЗ выдаются каждые 2 или 3 недели.<br />
<br />
Также планируется 3-4 практических ДЗ.<br />
<br />
* '''Теоретическое ДЗ-1.''' [[https://disk.yandex.ru/i/oExie748Wz1UiA PDF] [https://disk.yandex.ru/d/NHLEj3iIL7qsUg/hw_theory/hw1_theory_tenscomp23.tex TEX]] Дедлайн: 05.10.23 в 23:59.<br />
* '''Практическое ДЗ-1.''' [[https://disk.yandex.ru/d/uoBvmLkNKlup6Q Папка с файлами]] Дедлайн: 24.10.23 в 23:59.<br />
* '''Теоретическое ДЗ-2.''' [[https://disk.yandex.ru/i/tt3VfxXtf2kSsA PDF]] Дедлайн: 06.11.23 в 23:59.<br />
* '''Практическое ДЗ-2.''' [[https://disk.yandex.ru/d/MxmuUFmqE7sKEw Ноутбук]] Дедлайн: 15.11.23 в 23:59.<br />
* '''Теоретическое ДЗ-3.''' [[https://disk.yandex.ru/i/8olUaGyU69JBvQ PDF]] Дедлайн: 01.12.23 в 23:59.<br />
* '''Практическое ДЗ-3.''' [[https://disk.yandex.ru/d/-6NEIF3B6j1y9w Папка с файлами]] Дедлайн: 11.12.23 в 23:59.<br />
* '''Теоретическое ДЗ-4.''' [[https://disk.yandex.ru/i/4Nlae4Y3Z6qCeg PDF]] Дедлайн: 19.12.22 в 23:59.<br />
<br />
== Итоговая оценка за курс ==<br />
<br />
Итог = Округление(min(10, 0.2 * ДЗ_Теор + 0.15 * ДЗ_Практ + 0.1 * Б + 0.15 * ПР + 0.2 * К + 0.3 * Э))<br />
<br />
ДЗ_Теор –– средняя оценка за теоретические домашние задания<br />
<br />
ДЗ_Практ –– средняя оценка за практические домашние задания<br />
<br />
Б –– средняя оценка за бонусные задачи в ДЗ<br />
<br />
ПР — средняя оценка за самостоятельные работы на семинарах<br />
<br />
К –– оценка за устный коллоквиум (проводится в начале 2-го модуля)<br />
<br />
Э –– письменный экзамен.<br />
<br />
Округление арифметическое.</div>
imported>Alsenderovich