О курсе

Цель курса – научиться строго формулировать задачи машинного обучения и показать роль математического подхода. Навыки, полученные на этом курсе являются основой при написании квалификационных работ бакалавра, магистра и кандидата наук. Курс включает обсуждение аксиоматических систем, теорем и их доказательств, имеющих значение в машинном обучении. Обсуждается их влияние на практические приложения.

Тематический план

• Теорема Гаусса-Маркова
• Теорема о сингулярном разложении
• Метод главных компонент и разложение Карунена-Лоэва
• Теорема Каруша-Куна-Таккера
• Теоремы Колмогорова и Арнольда, теорема об универсальном аппроксиматоре Цыбенко, теорема о глубоких нейросетях
• Теорема о бесплатных обедах в машинном обучении, Волперт
• Метрические пространства: RKHS Аронжайн, теорема Мерсера
• Теорема схем, Холланда
• Теорема о свертке, теорема Парсеваля
• РАС-learning, сжатие предполагает обучаемость
• Теорема представлений
• Теоремы о бустинге, бутстрепе
• Вариационная аппроксимация
• Теорема о вложениях Такенса
• Теоремы Грина, Стокса, де Рама в геометрическом обучении

Самостоятельная работа

Подготовка и чтение докладов с формулировками, доказательствами и способами применения, значимостью, теорем

Оценивание

Оценивается качество докладов и качество вопросов к докладчику каждого студента

Требуемые знания

Алгебра и анализ третьего курса МФТИ