«Нейронные сети и их применение в научных исследованиях». Лекция 5: Рекуррентные сети

Архив лекций межфакультетского курса «Нейронные сети и их применение в научных исследованиях» для студентов МГУ. Актуальные материалы смотрите на сайте https://msu.ai/mfk Пятое занятие на МФК-курсе «Нейронные сети и их применение в научных исследованиях» для студентов МГУ. Преподаватель: Артемий Новоселов 0:00 В предыдущих сериях 1:45 Часть 1 1:54 Последовательности 3:32 1D 5:28 Hidden state 6:52 Recurrent Neural Network - RNN 7:18 Конфигурации RNN 7:26 Many to one 7:53 Many to many 8:12 One to many 8:31 One to one 9:04 Часть 2 9:15 Ответы на вопросы 13:54 Many to many Text-to-Speech 15:21 Speech-to-text 16:53 Forecasting 19:22 А можно совместить CNN и RNN. 19:44 CNN + RNN = Image Captioning 21:51 Что происходит с весами в последовательностях? 22:56 Проблема затухающего градиента 24:07 Bidirectional RNN 24:55 Проблема взрывающегося градиента 26:25 LSTM 27:38 Часть 3 27:56 Ответы на вопросы 36:12 Научные примеры Презентация: https://docs.google.com/presentation/d/1K3VrPshj1zTy1-JS1g0B_pSZMXWopsd9c1iFbgzO5g0/edit?usp=sharing Сайт: https://msu.ai