Лекция №14 "Explainability"

Описание

Четырнадцатое занятие на курсе «Нейронные сети и их применение в научных исследованиях» для восьмого потока обучения.
Преподаватель: Виктор Немченко
Дата: 13.02.2025

00:00 Заставка
00:51 Мотивация использования Explainability
06:10 Объяснимость моделей классического ML
06:38 Оценка важности признаков для линейных моделей
09:04 Оценка важности признаков для деревьев решений
13:00 Методы, изучающие отклик модели на изменение входных данных
13:22 ICE (Individual Conditional Expectation)
18:09 LIME (Local Interpretable Model-agnostic Explanations)
31:42 SHAP (SHapley Additive exPlanations)
42:42 Градиентные методы
42:50 Vanilla Gradient
46:34 SmoothGrad
49:21 Integrated Gradients
50:21 Grad-CAM
55:29 Критика градиентных методов

Материалы лекции:
Открыть в Colab: https://colab.research.google.com/drive/1-HsAyjuACyFcSt7k4k4kKx0eCHOTbLrq
Открыть в HTML: https://msu.ai/explainability_notebook_new

Сайт: https://msu.ai
VK: https://vk.com/msu_ai
Telegram: https://t.me/msu_ai_channel

#MSU_AI#Фонд_Интеллект