Встречи и семинары
Встреча с Никитой Животовским, выпускником Кафедры интеллектуальных систем МФТИ, 2013
Дата: 21.04.2022
Гость: Никита Животовский — канд. физ.-мат. наук., выпускник кафедры 2013, исследователь Google Research, Zürich.
Встреча с Кириллом Павловым, выпускником Кафедры интеллектуальных систем МФТИ, 2012
Дата: 27.03.2022
Гость: Кирилл Павлов — выпускник кафедры 2012, исследователь.
Встреча с Романом Сологубом, выпускником Кафедры интеллектуальных систем МФТИ, 2010
Дата: 11.03.2022
Гость: Роман Сологуб
Роман — канд. физ.-мат. наук., выпускник кафедры 2010, финансовый аналитик из Лондона.
Встреча с выпускниками Кафедры интеллектуальных систем МФТИ, 2013
Дата: 17.02.2022
Гости: Михаил Кузнецов, Никита Ивкин
Выпускники кафедры занимаются исследованиями в области машинного обучения и анализа данных в крупных коммерческих компаниях.
- Михаил Кузнецов – канд. физ.-мат. наук. МФТИ, сотрудник Yahoo и Amazon
- Никита Ивкин – PhD Johns Hopkins University, сотрудник Amazon
Априорное распределение параметров в задачах выбора моделей глубокого обучения
Дата: 24.01.2022
Докладчик: Андрей Грабовой
Семинар посвящен дистилляции моделей глубокого обучения. Обсуждается выравнивание структур моделей учителя и ученика. Для оптимизации параметров ученика используется байесовский вывод. В качестве примеров учителя и ученика приводятся полносвязные и рекуррентные нейросети.
Снижение размерности пространства в задачах декодирования сигналов
Дата: 13.12.2021
Докладчик: Роман Исаченко
Доклад посвящен проблеме снижения размерности пространства при решении задачи декодирования сигналов. Процесс декодирования заключается в восстановлении зависимости между двумя гетерогенными наборами данных. Особенностью рассматриваемой задачи является наличие скрытых зависимостей не только в исходных сигналах, но и в целевых. Предлагаются методы снижения размерности, позволяющие учитывать зависимости в исходном и целевом пространствах.
Uncertainty, Out-of-distribution detection for NNs
Дата: 8.07.2021
Докладчик: Максим Панов
Максим Панов (доцент Сколтеха) расскажет на семинаре что такое Uncertainty в байесовском выводе.
Защиты диссертаций
Роман Исаченко, Снижение размерности пространства в задачах декодирования сигналов, 2021
Исследуется задача выбора модели при восстановлении скрытых зависимостей в исходном и в целевом пространствах. Целевая переменная – вектор, компоненты которого являются зависимыми. Гетерогенные пространства исходных и целевых переменных обладают существенно избыточной размерностью. Требуется построить модель, адекватно описывающую исходное и целевое пространства при наблюдаемой мультикорреляции в обоих пространствах. Предлагается снизить размерность путём проецирования исходных и целевых переменных в скрытое пространство. Предлагаются линейные и нелинейные методы согласования прогностических моделей в пространствах высокой размерности.
Олег Бахтеев, Байесовский выбор модели глубокого обучения, 2020
В работе рассматривается задача автоматического построения моделей глубокого обучения оптимальной и субоптимальной сложности. Под сложностью модели понимается минимальная длина описания, т.е. минимальное количество информации, которое требуется для передачи информации о модели и о выборке. Вычисление минимальной длины описания модели является вычислительно сложной процедурой. В работе предлагается получение ее приближенной оценки, основанной на связи минимальной длины описания и обоснованности модели. Для получения оценки обоснованности используются вариационные методы получения оценки обоснованности, основанные на аппроксимации неизвестного апостериорного распределения другим заданным распределением. Под субоптимальной сложностью понимается вариационная оценка обоснованности модели. Одна из проблем построения моделей глубокого обучения — большое количество параметров моделей. Поэтому задача выбора моделей глубокого обучения включает в себя выбор стратегии построения модели, эффективной по вычислительным ресурсам.
Анастасия Мотренко, Выбор моделей прогнозирования, 2019
Цель работы: исследование свойств и разработка новых методов выбора модели в условиях избыточного мультикоррелирующего признакового пространства. Проблема: при решении задачи декодирования временных рядов признаковое описание обладает корреляцией сложной мультииндексной структуры. Избыточность признакового пространства, мультикорреляция и высокая размерность приводят к завышению сложности модели и получению неустойчивых оценок параметров. Предложен метод выбора признаков, учитывающий многоиндексное мультикоррелирующее представление данных. Метод основан на решении задачи квадратичного программирования.
Александр Адуенко, Выбор мультимоделей в задачах классификации, 2017
Мультимодели используются в случае отвержения гипотезы о простоте выборки. В случае, когда важность признаков зависит от их значений, одиночная обобщенно-линейная модель не позволяет это учесть. Мультимодели являются интерпретируемым обобщением случая одиночной модели. Они могут содержать большое число близких моделей, что ведет к низкому качеству прогноза и потере интерпретируемости. Для решения этой проблемы предложен статистический подход к сравнению моделей и основанные на нем методы прореживания мультимоделей, позволяющие получить адекватную мультимодель, содержащую попарно статистически различимые модели.
Арсентий Кузьмин, Иерархическая классификация коллекций документов, 2017
Работа посвящена разработке моделей классификации коллекций документов. Коллекция имеет иерархическую структуру, заданную экспертами. Требуется построить ранжирующую модель, которая учитывает описания документов, экспертную кластеризацию и возвращает ранжированный список релевантных тем. Предлагается метрическая вероятностная модель ранжирования тематических кластеров. Используются вариационные методы оценки вероятности принадлежности документа кластеру.
Защиты бакалавров и магистров
Защита бакалавров, 2022
Студенты: Константин Яковлев, Мария Горпинич, Антонина Курдюкова, Вячеслав Горчаков, Антон Пилькевич, Максима Христолюбов
Защита магистров, 2022
Студенты: Петр Мокров, Наталия Вареник, Алексей Григорьев, Святослав Панченко, Павел Северилов, Денис Тихонов, Александр Колесов, Алексей Гришанов
Защита бакалавров, 2021
Студенты: Дмитрий Ковалев, Антон Бишук, Кирилл Вайсер, Ольга Гребенькова, Руслан Гунаев, Владимир Жолобов, Рустем Исламов, Виктор Панкратов, Николай Савельев, Андрей Филатов, Анастасия Филиппова, Александра Харь, Вячеслав Шокоров, Тагир Саттаров
Защита магистров, 2021
Студенты: Егор Гладин, Андрей Грабовой, Егор Кириллов, Вадим Кислинский, Евгений Козлинский, Григорий Малиновский, Егор Шульгин, Василий Новицкий, Анна Рогозина, Никита Плетнев, Алина Самохина, Тамаз Гадаев, Глеб Моргачев