Как T‑Банк AI Research вскрывает внутренности нейросетей и зачем нужен объяснимый ИИ

Описание

Почему к решениям ИИ предъявляют требования выше, чем к людям, где пределы текущих языковых моделей и почему прорыв ждут не от новых данных, а от умения моделей «думать» и объяснять свои выводы — в программе «Технологии и тренды»

Современный искусственный интеллект во многом работает по принципу «черного ящика»: даже разработчики не всегда могут логически объяснить, почему модель пришла именно к такому ответу. Ведущие программы «Технологии и тренды» Аркадий Глушенков и Иван Звягин отмечают, что ИИ уже участвует в принятии критически важных решений в медицине и финансах, хотя в основе его работы по-прежнему лежит статистический выбор наиболее вероятных последовательностей.

Руководитель лаборатории «Т-Банк AI Research» Даниил Гаврилов в эфире Радио РБК подчеркнул важность развития «объяснимого ИИ». По его словам, такая работа предполагает анализ того, как концепции проходят через вычислительные слои нейросети
и каким образом формируется итоговый ответ модели.

00:00 — Проблема «черного ящика»: почему ИИ принимает решения, которые не всегда могут объяснить даже создатели.
00:42 — Представление гостей: Даниил Гаврилов и лаборатория T-Bank AI Research.
00:58 — Понимает ли нейросеть то, что пишет, или это просто подбор слов? Сравнение мышления ИИ и человека.
02:23 — Почему мы требуем от ИИ больше объяснимости, чем от людей? Аналогия с «разбором полётов» в авиации.
04:33 — Интуиция против логики: как люди и алгоритмы аргументируют свои решения.
05:00 — Два пути развития объяснимого ИИ: человекочитаемые аргументы vs. анализ внутренних механизмов («заглянуть под капот»).
06:43 — Как концепции перетекают внутри модели: оптимизация и сжатие данных как форма «понимания» мира.
07:23 — VLA-модели и физический мир: обучение роботов гравитации и сопротивлению материалов.
08:35 — Уперлись ли мы в потолок? Эволюция методов масштабирования: от объема данных к времени на размышление (inference time scaling).
09:46 — Индукция, дедукция и абдукция: как научить ИИ задавать правильные вопросы и совершать научные открытия.
12:06 — Как небольшие лаборатории конкурируют с гигантами вроде OpenAI и DeepMind.
13:51 — Значение архитектуры Transformer и поиск новых прорывных решений.

#радиорбктехнологии

Смотрите нас в RUTUBE: https://rutube.ru/channel/24141691/
Смотрите нас в VK: https://vk.com/rbc
Смотрите нас в Дзен: https://zen.yandex.ru/rbc.ru