Курс проходит в формате “inverse classroom”. Перед каждым семинаром нужно просмотреть лекцию и ответить на квиз. В основе программы — аналогичный курс Стэнфордского университета (cs224n). Обучение будет состоять из просмотра лекций, ответов на квизы, выполнения домашних заданий и проекта. Семинары будут посвящены обсуждению сложных моментов в лекциях, разбору квизов и домашних заданий, а также консультациям по проектам. Проведут их сотрудники лаборатории нейронных сетей и глубокого обучения Владислав Лялин и Алексей Сорокин.

Дата начала занятий 04.10.2018. Запись на курс здесь. Канал в телеграме для оперативных объявлений: https://t.me/joinchat/AAAAAEbQgIbzmzfKmMRlVw.

Программа курса (также доступна в Telegram):

1. Введение в обработку естесственного языка и глубокое обучение, введение в векторные представления слов
2. Векторные представления слов: Word2vec, GloVe, FastText
3. Языковые модели, softmax crossentropy loss, однослойные нейронные сети
4. Нейронные сети и обратное распространение ошибки, методы оптимизации
5. Практические советы: проверки на градиент, переобучение, регуляризация, функции активации
6. Рекуррентные нейронные сети в применении к моделированию языка и другим задачам
7. GRU и LSTM, введение в машинный перевод
8. Сверточные нейронные сети в применении к классфикации текстов
9. Машинный перевод, attention
10. Сети с динамической памятью, контекстуальные векторные представления слов, будущее NLP

Первая лекция: https://youtu.be/OQQ-W_63UgQ

Первый квиз: https://goo.gl/forms/p3zCl54GtsToIHXm1

Форма обратной связи для вопросов к первому семинару: https://goo.gl/forms/OqJJ95mFb7udJfWO2