ИИ от А до Я вся теория. LLM, токены и вероятности, Нейронные сети, RAG, MCP, Агенты и Harness

Описание

Все нейросети в одном месте без VPN и зарубежных карт qiper.ru - Нейросети/Искусственный Интеллект/AI/ИИ
00:00:05 Введение
Приветствие после долгого перерыва
Объяснение цели видео: разбор теории искусственного интеллекта для повседневного использования
Призыв к зрителям ставить лайки и оставлять комментарии
00:00:28 План урока
Основная цель: понять, что искусственный интеллект не человек, и как работают LLM
Разбор терминов: нейросети, LLM, промты, токены, распределение вероятностей, эмбеддинги
Обсуждение цикла работы LLM, формирования последовательности токенов, температуры, вероятностей, контекста и оптимизации контекста
00:01:20 Алгоритмы и ИИ
Алгоритмы решают конкретные задачи, но есть задачи, которые не решаются классическими алгоритмами
Искусственный интеллект способен решать задачи, такие как распознавание картинок, анализ текста, перевод с пониманием контекста, генерация звука
00:02:04 Машинное обучение и глубокое обучение
Машинное обучение: формирование правил на основе данных и закономерностей
Глубокое обучение: использование многослойных сетей для извлечения признаков из данных
Нейронные сети: математические модели, состоящие из нейронов
00:02:54 LLM и их обучение
LLM: большие языковые модели, такие как ChatGPT, CLOD, Dipsic
Обучение LLM на огромном количестве текстовых данных
Структура нейронной сети: входной, скрытый и выходной слои
00:04:30 Процесс работы LLM
Вход в LLM: токены, выход — распределение вероятностей следующего слова
Пример работы с ChatGPT: ввод промпта, разбиение на токены, предсказание следующего токена
00:05:10 Векторы и смыслы
Токены разбиваются на индексы, которым присваиваются вектора embedding
Вектора хранят смыслы слов, позволяя модели понимать контекст
Пример: слова «авто», «тачка», «машина», «автомобиль» имеют похожие вектора
00:06:54 Случайность и температура
Случайность в ответах LLM: влияние температуры и SID
Температура: числовое значение, влияющее на творчество модели
SID: случайное число, добавляющее непредсказуемость в ответы
00:09:09 Контекст и контекстное окно
Контекст: системный и пользовательский промты, влияющие на ответы модели
Контекстное окно: ограничение количества токенов в контексте
Оптимизация контекста: скользящее окно и сомаризация
00:11:14 Архитектура трансформер
Важность учёта смысла целого контекста, а не отдельных токенов
Пример с частицей «не» в предложении
GPT: генеративный притренированный трансформер, ключевая архитектура для LLM
00:12:00 Механизм attention в LLM
LLM использует механизм attention для понимания контекста слов и токенов
Attention позволяет модели учитывать важность и позицию токенов относительно других токенов в контексте
Формулировка промпта влияет на результат работы модели
00:12:55 Работа LLM с внешними ресурсами
LLM обучается на текстовых данных, но не имеет доступа к вашим данным, документации и кодовой базе
RAC позволяет LLM работать с внешними ресурсами, такими как базы данных и документация
Данные добавляются в контекст модели для работы с ними
00:13:31 Механизм RAC
После получения промпта происходит поиск информации в RAC
Найденная информация добавляется в контекст модели
RAC не меняет веса модели и не обучает её
00:14:21 Векторная база данных RAC
Документы и базы данных разбиваются на чанки, которые превращаются в векторы
Векторы хранятся в специальной векторной базе данных
Поиск информации в базе данных выполняется на основе токенов промпта
00:15:18 Галлюцинации в LLM
LLM не мыслит категориями «правильно» или «неправильно», а подбирает вероятность появления следующего токена
Галлюцинации возможны из-за заполнения контекстного окна мусорной информацией
00:16:16 Взаимодействие LLM с внешними системами
LLM может вызывать внешние инструменты через конструкцию тулколин
Пример: запрос о погоде может привести к вызову API GET
00:17:27 Протокол MCP
MCP стандартизирует подключение LLM и агентов к внешним сервисам
MCP-сервер сообщает о доступных инструментах, которые могут быть подключены агентами
00:18:53 Агенты и их компоненты
Агенты основаны на LLM и имеют доступ к инструментам и контексту
У агентов есть стейт техническая информация о состоянии и инструкция
Цикл «думай, действуй, проверяй, повторяй» создаёт ощущение интеллекта
00:20:42 Оркестрация агентов
Оркестрация позволяет управлять несколькими агентами для разных задач
Пример: агент-ревьюер проверяет код, написанный другим агентом
Главный архитектор проверяет результат по критериям приёмки
00:21:38 Цикл работы агентов
Агенты работают в цикле до получения правильного результата
Каждый агент имеет свои инструкции и контекст
Процесс напоминает работу разработчиков: написание кода, его ревью, проверка и корректировка
00:22:18 Переиспользование кода и скиллы
Разработчики создают код, который можно переиспользовать, вынося функции в компоненты и классы
00:23:12 Вайп-кодинг и а-инжиниринг
00:24:09 Роль человека в разработке
00:25:02 Экспертиза в ИИ
00:26:01 Заключение