Город МОСКОВСКИЙ
00:14:57

#10. Оптимизаторы градиентных алгоритмов: RMSProp, AdaDelta, Adam, Nadam | Машинное обучение

Аватар
SelfEdu - мир знаний с Сергеем Балакиревым
Просмотры:
782
Дата загрузки:
03.09.2024 09:37
Длительность:
00:14:57
Категория:
Обучение

Описание

Практический курс по ML на Stepik: https://stepik.org/course/209247/

Зачем нужны оптимизаторы для градиентных алгоритмов. Рассматриваются следующие эвристики: метод импульсов (momentum), импульс Нестерова (NAG), RMSProp (running mean square), AdaDelta (adaptive learning rate), Adam (adaptive momentum), Nadam (Nesterov-accelerated adaptive momentum) и диагональный метод Левенберга-Марквардта.

Инфо-сайт: https://proproprogs.ru/ml
Телеграм-канал: https://t.me/machine_learning_selfedu

Tensorflow (градиентные алгоритмы оптимизации): https://www.youtube.com/watch?v=WYme8F384as&list=PLA0M1Bcd0w8ynD1umfubKq1OBYRXhXkmH
Keras (обучение сети распознаванию рукописных цифр): https://www.youtube.com/watch?v=oCXh_GFMmOE&list=PLA0M1Bcd0w8yv0XGiF1wjerjSZVSrYbjh

Рекомендуемые видео

#11. L2-регуляризатор. Математическое обоснование и пример работы | Машинное обучение
#11. L2-регуляризатор. Математическое обоснование и пример работы | Машинное обучение
819 просмотров
Город опустел, а среди друзей может скрываться заражённый… — серия 22 — сериал «Киберщит: невидимый»
Город опустел, а среди друзей может скрываться заражённый… — серия 22 — сериал «Киберщит: невидимый»
70 220 просмотров
#8. Стохастический градиентный спуск SGD и алгоритм SAG | Машинное обучение
#8. Стохастический градиентный спуск SGD и алгоритм SAG | Машинное обучение
1 479 просмотров
#9. Пример использования SGD при бинарной классификации образов | Машинное обучение
#9. Пример использования SGD при бинарной классификации образов | Машинное обучение
893 просмотров
#13. Логистическая регрессия. Вероятностный взгляд на машинное обучение | Машинное обучение
#13. Логистическая регрессия. Вероятностный взгляд на машинное обучение | Машинное обучение
967 просмотров
#12. L1-регуляризатор. Отличия между L1- и L2-регуляризаторами | Машинное обучение
#12. L1-регуляризатор. Отличия между L1- и L2-регуляризаторами | Машинное обучение
592 просмотров
Время создавать. Старт заявочной кампании второго грантового конкурса ПФКИ 2027 года
Время создавать. Старт заявочной кампании второго грантового конкурса ПФКИ 2027 года
4 345 просмотров
#11. Идея обучения НС градиентным алгоритмом | Нейросети на PyTorch
#11. Идея обучения НС градиентным алгоритмом | Нейросети на PyTorch
1 181 просмотров
#3. Линейная модель. Понятие переобучения | Машинное обучение
#3. Линейная модель. Понятие переобучения | Машинное обучение
1 781 просмотров
#2. Постановка задачи машинного обучения | Машинное обучение
#2. Постановка задачи машинного обучения | Машинное обучение
2 796 просмотров
#1. Что такое машинное обучение? Обучающая выборка и признаковое пространство | Машинное обучение
#1. Что такое машинное обучение? Обучающая выборка и признаковое пространство | Машинное обучение
3 567 просмотров
#7. Функции потерь в задачах линейной бинарной классификации | Машинное обучение
#7. Функции потерь в задачах линейной бинарной классификации | Машинное обучение
1 313 просмотров
Теория вероятностей #5: парадокс Монти Холла
Теория вероятностей #5: парадокс Монти Холла
986 просмотров
#12. Алгоритм back propagation. Пример работы | Нейросети на PyTorch
#12. Алгоритм back propagation. Пример работы | Нейросети на PyTorch
997 просмотров
#10. Персептрон - возможности классификации образов | Нейросети на PyTorch
#10. Персептрон - возможности классификации образов | Нейросети на PyTorch
1 364 просмотров
Теория вероятностей #11: формула полной вероятности, формула Байеса
Теория вероятностей #11: формула полной вероятности, формула Байеса
8 475 просмотров
ЦОС Python #1: Метод наименьших квадратов
ЦОС Python #1: Метод наименьших квадратов
2 349 просмотров
#9. Использование CPU и GPU на примере простой НС | Нейросети на PyTorch
#9. Использование CPU и GPU на примере простой НС | Нейросети на PyTorch
1 121 просмотров
ЦОС Python #2: Метод градиентного спуска
ЦОС Python #2: Метод градиентного спуска
1 418 просмотров
Машинное обучение. Начало | Основы машинного обучения
Машинное обучение. Начало | Основы машинного обучения
4 176 просмотров