Безопасное применение ИИ для бизнес-задач

Описание

Как безопасно использовать искусственный интеллект в компании? Как обнаружить Shadow AI, контролировать работу сотрудников с публичными нейросетями и защитить AI-агентов, которые получают доступ к корпоративным данным, API и внутренним системам?

В эфире AM Live эксперты обсудили безопасность применения ИИ для бизнес-задач: от обнаружения Shadow AI и контроля LLM до защиты AI-агентов, MCP-серверов и tool calls.

Разобрали возможности и ограничения LLM / AI Firewall: защиту от prompt injection, контроль данных и запросов к моделям, требования к пилотированию, false positive и false negative, работу с русским языком, локальными моделями и под нагрузкой.
Отдельно поговорили об Agent Runtime Security и безопасности AI-агентов: цифровой идентичности, управлении правами и привилегиями, контроле инструментов и действий агента, проверке MCP-серверов и необходимости подтверждения человеком критичных операций.

Также обсудили интеграцию AI Security с IAM, PAM, DLP, SIEM, EDR, SWG и API Security и разобрали, с каких шагов компании стоит начинать построение контроля использования ИИ.

В эфире приняли участие:

Модератор: Илья Самофеев, red_mad_robot

Спикеры:
⚡ Вячеслав Валькович, ITGLOBAL.COM, корпорация ITG
⚡ Никита Беляевский, HiveTrace
⚡ Денис Каракай, Гарда
⚡ Максим Князев, К2 Кибербезопасность
⚡ Николай Куликов, ГК Солар
⚡ Алексей Беляков, Лаборатория Касперского

Тайм-коды:
00:01:37 — Введение
00:08:50 — Тема Shadow AI
00:09:46 — Проблемы создания реестра
00:12:18 — Риски и ограничения сервисов
00:14:14 — Рост интереса к безопасности ИИ
00:18:04 — Сложности контроля Shadow AI
00:20:07 — Трансформация информационной безопасности
00:21:43 — Ограничения существующих решений
00:23:35 — Проблемы с искусственным интеллектом
00:24:31 — Будущее решений для ИИ
00:25:26 — Перспективы AI-файерволов
00:26:26 — Контроль несанкционированного доступа
00:28:06 — Компромиссы в доступе к ИИ
00:29:37 — Сегментация пользователей
00:30:56 — Результаты опроса о контроле ИИ в компаниях
00:33:23 — Проблемы обнаружения облачных моделей
00:39:51 — Внедрение ИИ и информационная безопасность
00:41:24 — Введение в тему ИИ-активов
00:42:17 — Контроль взаимодействия с ИИ
00:43:17 — Декомпозиция и модель угроз
00:48:10 — Угрозы кибербезопасности при использовании ИИ
00:49:08 — Защита LLM-моделей
00:51:54 — Защита моделей на этапе разработки
00:53:46 — Безопасный цикл разработки ПО
00:55:38 — Реакция на вредоносные ответы ИИ
01:00:07 — Риски ИИ-агентов
01:12:17 — Функции AI-файервола
01:14:09 — Развитие AI-файерволов
01:16:23 — Проблемы внедрения LLM-файерволов
01:17:23 — Комплексный подход к защите
01:19:11 — Кастомизация решений
01:21:51 — Сложности кибербезопасности
01:28:48 — Минимизация рисков
01:29:41 — Киберугрозы и ИИ
01:31:11 — Триаж уязвимостей
01:32:39 — Скорость работы агентов
01:34:46 — Сложности внедрения кибербезопасности
01:37:31 — Права доступа и агенты
01:39:39 — Риски и безопасность
01:41:28 — Уязвимости и агенты
01:43:32 — Идентификация действий агентов
01:45:29 — Контроль над агентами
01:46:24 — Ответственность за действия агентов
01:48:18 — Ограничение прав агентов
01:54:56 — Инфраструктура агентов
02:01:01 — Будущее безопасности ИИ
02:15:39 — Ошибки в использовании ИИ
02:31:36 — Завершение эфира


Календарь трансляций AM Live https://amlive.ru/

https://t.me/anti_malware
https://vk.com/anti_malware
https://www.anti-malware.ru/

По вопросам рекламы:
sales@anti-malware.ru