СверхИнтеллект ИИ уничтожит всех. Окончательный план OpenAI -Нейросети/Искусственный Интеллект/AI/ИИ

Описание

Все нейросети в одном месте без VPN и зарубежных карт qiper.ru
СверхИнтеллект ИИ уничтожит всех. Окончательный план OpenAI - Агрегатор Нейросетей
00:00:00 Введение
Сэм Альтман назвал три сценария будущего искусственного интеллекта
Один из сценариев предполагает уничтожение конкурентов OpenAI
Крупнейшие компании обсуждают объединение для контроля над разработкой сверхинтеллекта
00:00:28 Бесплатные курсы от Google
Google выпустил подборку бесплатных AI-курсов с сертификатами
Курсы охватывают генеративный ИИ, машинное обучение, промпт-инженерию и работу с GPT
00:00:54 Сценарии будущего ИИ
Альтман обсудил три подхода к безопасному развитию сверхмощного ИИ
Первый сценарий: создание международного регулирующего органа
Второй сценарий: объединение крупнейших лабораторий
Третий сценарий: появление одной компании с неограниченной властью
00:02:10 Международный регулирующий орган
Альтман предлагает создать организацию, похожую на МАГАТЭ
Международные инспекторы будут проверять компании и оценивать риски
Проблема: необходимость согласия США и Китая
00:04:30 Объединение лабораторий
Второй сценарий: объединение ведущих лабораторий ИИ
Идея напоминает план Демиса Хасабиса
Противники считают объединение невозможным и опасным
00:07:14 Рекурсивное самоулучшение
Третий сценарий: рекурсивное самоулучшение ИИ
Нейросеть может самостоятельно улучшать свою архитектуру
Опасность: ускорение развития технологий и интеллектуальный взрыв
00:09:20 Уничтожение графических процессоров
Первая организация с мощным сверхинтеллектом может уничтожить вычислительные мощности конкурентов
Это предотвратит разработку конкурирующего ИИ
Концепция PIFTAL ACT: использование сверхинтеллекта для предотвращения появления опасных систем
00:09:37 Концентрация контроля над ИИ
Первая компания с сверхинтеллектом может попытаться остановить все остальные разработки
Возникает вопрос, кто будет определять будущее ИИ
Альтман назвал третий сценарий «ужасным», но не предлагал OpenAI действовать подобным образом
00:10:32 Сценарии будущего ИИ
Три сценария: международный регулятор, объединение лабораторий, технологическое преимущество одной компании
Критики считают концентрацию власти опасной
Сторонники централизованного регулирования возражают, что сверхинтеллект может причинить огромный ущерб
00:11:28 Изменения в позиции компаний
Дарио Мадей призвал контролировать темпы развития мощных систем
Сэм Альтман и Илон Маск поддержали идею замедления разработок
OpenAI готова отключить графические процессоры для защиты человечества
00:12:27 Реакция властей и юридические споры
Белый дом использовал термин «сверхинтеллект»
Технологические компании подписали добровольное соглашение о безопасности
Группа подписчиков GPT подала иск, обвинив разработчиков в антиконкурентном поведении
00:13:41 Обсуждение отраслевого органа
OpenAI, Google и Anthropic обсуждают создание отраслевого органа по безопасности ИИ
Орган будет устанавливать стандарты тестирования безопасности и требования к аудиторам
Процедура проверки может стать обязательной
00:14:41 Финансовые аспекты и роль Китая
OpenAI привлекает 30 миллиардов долларов инвестиций
Без участия китайских компаний международная система контроля рискует быть неэффективной
США выступают против некоторых предложений по глобальному управлению ИИ
00:15:34 Будущее регулирования ИИ
Формируется система добровольных соглашений и государственных инициатив
Важные события: переговоры США и Китая о безопасности ИИ, обязательные проверки нейросетей, появление ИИ, способного самостоятельно выполнять исследования
00:17:21 Последствия системы регулирования
Система регулирования влияет на доступность, стоимость и скорость появления новых моделей ИИ
Международный регулятор может сохранить множество конкурирующих компаний, но разработка станет более контролируемой
Объединение лабораторий сосредоточит научные ресурсы, но управление окажется в руках одной организации
Рекурсивное самоулучшение одной компании может привести к зависимости от решений небольшой группы людей
00:18:18 Возможный компромисс
Сочетание международного регулирования с сохранением нескольких крупнейших разработчиков
Решающую роль будет играть доступ к финансированию, вычислительным мощностям и разрешениям регулирующих органов
Критики опасаются, что такая система закрепит преимущество крупнейших корпораций
Руководители компаний всё чаще обсуждают долгосрочные последствия создания сверхинтеллекта
00:19:00 Международные инспекции и контроль над ИИ
Сэм Альтман, Дарья Мадей и Демис Хасабис обсуждают необходимость международных инспекций, замедления исследований и независимых проверок в области ИИ
Эти вопросы поднимаются на заседаниях ООН, в Белом доме и внутри технологических компаний
Централизованный контроль может снизить риск опасных систем, но создаёт опасность чрезмерной концентрации власти
00:19:58 Риски концентрации контроля
00:20:35 Опыт использования ИИ
00:21:07 Проблемы с самостоятельностью
СверхИнтеллект ИИ уничтожит всех. Окончательный план OpenAI - Агрегатор Нейросетей