#2. Глубокое обучение нейросетей: градиентный спуск

179 подписчиков

12+
12+

31 просмотр

2 дня назад

ПожаловатьсяНарушение авторских прав

179 подписчиков

12+
12+

31 просмотр

2 дня назад

ПожаловатьсяНарушение авторских прав
12+
12+

31 просмотр

2 дня назад

Список агрегаторов нейросетей: qiper.ru - все нейросети в одном месте Искусственный Интеллект/Нейросети/AI/ИИ 00:00:11 Введение в нейронные сети Обсуждение структуры нейронной сети Переход к новым темам, включая обучение нейросетей 00:00:36 Цель обучения нейросети Цель — научить нейросеть распознавать рукописные цифры Изображение размером 28x28 пикселей, пиксели имеют оттенки серого от 0 до 1 784 нейрона входного слоя получают активации на основе значений пикселей 00:01:09 Структура сети и параметры Два скрытых слоя по 16 нейронов в каждом Около 13 тысяч параметров для настройки Настройка параметров для максимальной активации нейронов, соответствующих рукописным цифрам 00:01:56 Алгоритм обучения Использование алгоритма для настройки параметров на основе множества изображений Проверка точности на незнакомых изображениях 00:03:09 Функция потерь Функция потерь оценивает работу нейросети Вычисление потерь на основе активаций нейронов Минимизация потерь для улучшения работы сети 00:05:19 Градиентный спуск Поиск локального минимума функции потерь Использование градиента для определения направления движения Алгоритм обратного распространения ошибок для вычисления градиента 00:11:12 Важность градиента Градиент показывает важность связей между нейронами Изменение значимых параметров улучшает работу сети Пример с двумя переменными иллюстрирует влияние изменений на результат 00:12:36 Заключение Подчёркивание сложности функции потерь и градиента Градиент помогает улучшить работу нейросети, показывая значимые изменения параметров 00:13:42 Эксперименты со структурой скрытых слоёв Увеличение точности до 98% через изменения в структуре скрытых слоёв Обсуждение сложности задачи и неожиданности результатов Упоминание о предположении о работе слоёв нейросети в прошлом видео 00:14:42 Анализ весов связей Веса связей между слоями выглядят случайно, без явных признаков элементов изображений Пример с визуальным шумом, который нейросеть распознаёт как цифру 00:15:41 Ограничения нейросети Нейросеть хорошо распознаёт объекты, но не знает, как они выглядят Ограниченное «мировоззрение» нейросети, основанная на обучающих данных Важность понимания нейросетей для дальнейшего развития 00:16:45 Активное обучение Призыв к активному участию в обучении Рекомендация книги Майкла Нильсона о глубоком обучении Упоминание полезных ресурсов в описании видео 00:17:46 Интервью с Лишей Ли Обсуждение статей о современных алгоритмах обучения нейросетей Эксперимент с перемешанными метками в обучающих данных Вопрос о том, улучшает ли минимизация функций потерь распознавание или просто заставляет сеть «зубрить» материал 00:18:45 Результаты экспериментов Медленное снижение функции потерь при обучении на случайных данных Быстрое снижение функции при правильно размеченных данных Вывод о том, что структурированные обучающие данные помогают быстрее достичь цели 00:20:05 Заключение

Название:

#2. Глубокое обучение нейросетей: градиентный спуск