Введение в глубокое обучение с использованием Intel® neon™ Framework

Краткое описание

В курсе изучаются вопросы построения и анализа качества работы глубоких нейронных сетей с использованием инструмента Intel® neon™ Framework.

Рассматриваются следующие вопросы:

  1. Введение в глубокое обучение.
  2. Многослойные полностью связанные нейронные сети.
  3. Введение в Intel® neon™ Framework.
  4. Сверточные нейронные сети. Глубокие остаточные сети.
  5. Перенос обучения глубоких нейронных сетей.
  6. Обучение без учителя: автокодировщики, разверточные сети.
  7. Рекуррентные нейронные сети.
  8. Введение в the Intel® nGraph™.

Курс является ориентированным на практику. В связи с этим предусматривается 8 групповых аудиторных занятий (по 2 академических часа каждое) и 5 индивидуальных консультаций в группах из 2-3 человека (для каждой группы). Аудиторные занятия проводятся в режиме лекции/мастер-класса. Изложение теоретического материала в большинстве лекций/мастер-классов сопровождается примерами разработки архитектуры глубокой нейронной сети с использованием Intel® neon™ Framework. Задача, для которой выполняется построение глубоких моделей, является сквозной и охватывает всю лекционную часть, за исключением вводной лекции обзорного характера. Практика по курсу строится следующим образом: слушатели распределяются на группы по 2-3 человека. Каждая из групп получает отдельную учебную задачу и пытается достичь максимального качества, выполняя построение различных типов глубоких архитектур и модифицируя их внутреннюю структуру. Имитируется режим коллективной разработки. Итоговый контроль знаний включает защиту разработанного проекта с демонстрацией показателей качества работы различных типов глубоких сетей.

Курс ориентирован на инженеров, преподавателей и научных сотрудников, а также аспирантов и студентов высших учебных заведений.

Предварительные требования к слушателям

Курс ориентирован на слушателей, имеющих базовые навыки разработки программ на скриптовом языке программирования Python. Наряду с этим, курс требует теоретических знаний из области методов оптимизации, обработки изображений и компьютерного зрения.

Ссылки

Программа курса доступна по ссылке.

Исходные коды для решения практического задания, рассмотренного в лекциях, доступны по ссылке. Полные результаты экспериментов доступны здесь.

Примерный перечень практических заданий для выполнения группой студентов доступен по ссылке.

Лицензия

Лицензия доступна по ссылке.

Авторы

Кустикова Валентина Дмитриевна, к.т.н., доцент каф. Математического обеспечения и суперкомпьютерных технологий Института информационных технологий, математики и механики ННГУ им. Н.И. Лобачевского. Руководитель и исполнитель проекта.

Золотых Николай Юрьевич, д.ф.-м.н., проф. каф. алгебры, геометрии и дискретной математики Института информационных технологий, математики и механики ННГУ им. Н.И. Лобачевского. Научный консультант.

Жильцов Максим Сергеевич, магистрант 1-ого года обучения Института информационных технологий, математики и механики ННГУ им. Н.И. Лобачевского. Исполнитель проекта.

Курс разработан при поддержке корпорации Intel.

План курса

ЛЕКЦИЯ 1. Введение к глубокое обучение

(pptx, docx)

ЛЕКЦИЯ 2. Многослойные полностью связанные нейронные сети

(pptx, docx)

ПРАКТИКА 0. Предварительная обработка и конвертация данных в формат HDF5 для работы с Intel® neon™ Framework

(docx)

ЛЕКЦИЯ 3. Введение в Intel® neon™ Framework

(pptx, docx)

ПРАКТИКА 1. Разработка полностью связанных нейронных сетей для решения практической задачи с использованием Intel® neon™ Framework

(docx)

ЛЕКЦИЯ 4. Сверточные нейронные сети. Глубокие остаточные сети

(pptx, docx)

ПРАКТИКА 2. Разработка сверточных нейронных сетей для решения практической задачи с использованием Intel® neon™ Framework

(docx)

ЛЕКЦИЯ 5. Перенос обучения глубоких нейронных сетей

(pptx, docx)

ПРАКТИКА 3. Применение переноса обучения для решения практической задачи с использованием Intel® neon™ Framework

(docx)

ЛЕКЦИЯ 6. Обучение без учителя: автокодировщики, разверточные сети

(pptx, docx)

ПРАКТИКА 4. Начальная настройка весов наиболее перспективных архитектур полностью связанных для последующего решения практической задачи с использованием Intel® neon™ Framework

(docx)

ЛЕКЦИЯ 7. Рекуррентные нейронные сети

(pptx, docx)

ПРАКТИКА 5. Разработка рекуррентных нейронных сетей для решения практической задачи с использованием Intel® neon™ Framework

(docx)

ЛЕКЦИЯ 8. Обзор возможностей инструмента Intel® nGraph™

(pptx, docx)