Программа курса

Часть 1. Основы машинного обучения (МО) (2 лекции)

Основные понятия. Типология задач, решаемых методами МО: задачи регрессии, классификации, оптимизации, кластеризации. Бинарная, многоклассовая и многометочная классификация. Анализ данных (data mining) и МО. МО и искусственный интеллект. Краткая историческая справка. Обучение с учителем, с подкреплением и без учителя. Методы оценки качества моделей. Общая схема МО. Базовые методы МО: линейная и логистическая рагрессия, регуляризация L1 и L2, машины опорных векторов, метод k ближайших соседей. Деревья решений. Алгоритм случайного леса. Градиентный бустинг.

Часть 2. Искусственные нейронные сети (ИНС) (4 лекции)

Модель нейрона. Многослойные персептроны. Алгоритм обратного распространения ошибки и его модификации. Глубокие нейронные сети (НС). Рекуррентные НС. Свёрточные НС. Механизм внимания. Трансформеры. Автоассоциативная память. НС Кохонена и самоорганизующиеся карты Кохонена. НС с общей регрессией. Вероятностная НС. НС с функциями радиального базиса. НС Хопфилда. НС Хэмминга. Машина Больцмана. Генеративные состязательные сети, вариационные автоэнкодеры.

Часть 3. Основы предобработки и анализа данных (3 лекции)

Кодирование и нормировка данных. Оценка значимости входов. Методы анализа данных, направленные на определение и уменьшение размерности задачи (анализ главных компонент, кластер-анализ, оценка фрактальной размерности и пр.). Методы нелинейного преобразования входных данных, способствующие выделению отличительных свойств (спектральные методы обработки сигналов, вейвлет-анализ, нелинейный анализ главных компонент). Анализ временных рядов. Вейвлет нейронные сети.

Часть 4. Генетические алгоритмы (ГА). Метод группового учета аргументов (3 лекции)

Генетические алгоритмы. Многоагентные методы. Генетическое программирование. Метод группового учета аргументов.

Часть 5. Нечеткая логика (1 лекция)

Основные понятия нечёткой логики. Проектирование контроллеров. Нечёткая логика и вероятность. Нечёткая логика и нейронные сети. Нейро-нечёткие системы.

Часть 6. Другие алгоритмы анализа данных. Решение практических задач (2 лекции)

Обучение с подкреплением. Алгоритмы построения НС оптимальной сложности. Методики комбинирования различных моделей ИНС. Иерархические системы. Комитеты экспертов (ансамбли предикторов). Гибридные методы. Основные области применения ИНС и ГА. Практические приемы использования ИНС и ГА для решения задач в спектроскопии, космической физике, геофизике, обработке сигналов и изображений, обработке текстовой информации. Решение обратных задач в физике с помощью ИНС и ГА.

План практических занятий

Часть 1. Основные модели ИНС (2 занятия)

Наглядная демонстрация основных нейросетевых алгоритмов. "Нейропрактикум".

Часть 2. Современный инструментарий для практической работы с ИНС (2 занятия)

Языки R и Python. Обзор современных программных средств и библиотек для решения задач анализа данных. Основные приемы работы. Решение простых практических задач.

Часть 3. Решение практических задач анализа данных на языке R (1 занятие)

Работа с ИНС на языке R. Анализ данных в R.

Часть 4. Решение практических задач анализа данных на языке Python (3 занятия)

Технология работы с ИНС. Технология работы с временными рядами. Технология работы с вейвлет-преобразованием. Решение задач обработки изображений. Решение задач обработки текстовой информации.

Часть 5. Генетические алгоритмы (1 занятие)

Наглядная демонстрация работы ГА. Решение практических задач оптимизации с помощью ГА.

Часть 6. Самостоятельная работа под руководством преподавателя

Самостоятельное решение задачи, интересующей слушателя (КПК, 3 занятия).
Самостоятельная работа под руководством преподавателя (Факультативный курс, 1 занятие).