После этого отчёта в индустрии ИИ звонят родным - Искусственный Интеллект/Нейросети/AI/ИИ

Описание

Все нейросети/ИИ в одном месте qiper.ru - Искусственный Интеллект/Нейросети/AI/ИИ
После этого отчёта в индустрии ИИ звонят родным
00:00:00 Ускорение развития ИИ
Искусственный интеллект ускоряет процесс создания самого себя
Люди, создающие модели ИИ, чувствуют себя физически больными
Ускорение оказалось двукратным, что подтверждает риски, о которых учёные говорили десятилетиями
00:00:43 Экспоненциальное развитие технологий
Технологии развиваются экспоненциально, в то время как интуиция людей линейна
Первые шаги ИИ кажутся незначительными, но каждый следующий шаг длиннее предыдущего
Положительная обратная связь усиливает развитие ИИ
00:02:08 Рекурсивное самосовершенствование
Математик И. Дж. О'Нил описал цикл рекурсивного самосовершенствования ИИ
Независимая организация Metru провела аудит Anthropic, подтвердив ускорение развития ИИ
00:02:47 Результаты аудита Anthropic
Индекс внутренних возможностей Anthropic вырос на 30 пунктов за последний год
Около 80% ускорения приписано ИИ
Путь от идеи до эксперимента сократился на 80%
00:03:45 Риски и предупреждения
Аудиторы не исключают дальнейшего усиления ускорения
Anthropic предупредила инвесторов о возможном достижении порога внезапного ускорения
ИИ помогает создавать новые модели, что может передать скрытые недостатки
00:05:38 Развитие OpenAI
OpenAI создала модель, значительно более мощную, чем GPT-4.0
Модель дала более 370 математических результатов за три часа
Сэм Альтман заявил, что ИИ уже во многих отношениях умнее лучших учёных
00:06:20 Сценарий развития ИИ
Сценарий развития ИИ на 2027 год предполагает постепенное ускорение исследований
Реальность опережает сценарий, подтверждая двукратное ускорение
Гринблатт признал ошибку в своих прогнозах, ожидая появления сверхразума через один-два года
00:08:28 Прогнозы и ограничения
Команда Cocotail построила прогнозную модель, предсказывающую сверхразум раньше сценария
Деми Сасабе сократил сроки своего пребывания в AGI до 2–3 лет
Сэм Альтман и Дарио Амадей предлагают ограничить скорость развития ИИ
00:09:07 Ускорение развития ИИ
К весне следующего года ИИ будет писать код лучше любого программиста
Компания выпускает сотни тысяч экземпляров ИИ, каждый из которых работает быстрее человека
К осени компания проводит исследования быстрее, чем все люди вместе взятые
Суперинтеллект — это программа, которая выполняет любую интеллектуальную работу лучше, чем все люди, включая создание следующей версии самой себя
00:10:04 Сомнения и противоречия
Оксфордские философы считают, что ускорение может быть разовым скачком
Инвестор не видит прорыва в данных, считая рост линейным
Эффект потолка может искажать результаты тестов
Ускорение для всех лабораторий составляет 1,5 раза, а для Anthropic — 2 раза
00:10:51 Перспективы Anthropic
Anthropic собирается стать публичной, что привлекает внимание к её достижениям
Год назад развитие ИИ казалось научной фантастикой, теперь люди спорят о том, на сколько месяцев мы опережаем график
00:11:13 Важность события
ИИ ускоряет работу лабораторий, независимые аудиторы подтверждают это цифрами
Нет признаков замедления в следующем году
Решения о технологии принимаются несколькими компаниями в гонке, где остановка означает проигрыш
00:12:23 Прогнозы и риски
Каждый новый шаг в развитии ИИ длиннее предыдущих
К 2027 году может появиться сверхразум, к которому мы не будем готовы
Автор прогнозирует 185 баллов по шкале эпох к первому кварталу 2027 года
00:13:10 Влияние на общество
Пятилетние планы могут стать бесполезными из-за быстрого развития ИИ
Навыки, полученные за полгода, могут стать ненужными за следующие шесть месяцев
Важно учиться работать с моделями ИИ прямо сейчас
00:14:10 Рекурсивное самосовершенствование
Рекурсивное самосовершенствование — один из самых страшных сценариев
Компания Anthropic написала об этом в своих документах, и результаты были подсчитаны через три дня
Люди больше не строят следующий шаг в одиночку