«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский о сверхинтеллекте

Описание

«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский о сверхинтеллекте

Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий, и мы уже не контролируем этот процесс?

В новом выпуске — разговор с Романом Владимировичем Ямпольский, специалистом по информатике из Университета Луисвилла, исследователем в области безопасности искусственного интеллекта и кибербезопасности.

В выпуске:
— Когда может появиться сверхинтеллект и что сможет его остановить?
— Кто несёт ответственность за решения, принимаемые ИИ?
— Какие сценарии будущего человечества возможны после появления сверхинтеллекта?
— Можно ли контролировать систему, которая умнее нас?
— Существует ли риск утраты контроля над ИИ?


Книга Романа Ямпольского «ИИ: Необъяснимый, непредсказуемый, неконтролируемый» → https://www.ozon.ru/product/ii-neobya...

Подписывайся на канал в МАХ, чтобы не пропустить последние новости - https://max.ru/gleb_solomin


Таймкоды:
00:00 Вступление
01:40 Мы записали подкаст на двух языках
02:09 Скептицизм вокруг ИИ
04:35 Ограничения ИИ
06:27 Когда случится опасный для человечества переход?
08:19 Главная опасность ИИ
09:37 ИИ пытался избежать отключения
09:56 Когда ИИ пытался соврать?
10:33 Мы вошли в технологическую сингулярность?
12:00 Когда ожидать появления AGI?
13:22 Polymarket — индикатор того, что событие случится?
14:37 Что почувствуют люди при появлении AGI?
15:55 Человечеству осталось несколько лет?
16:30 Какие профессии исчезнут и НЕ исчезнут?
17:14 Какой мотив у создателей ИИ?
19:14 Ограничений ИИ не ждать?
21:04 Ядерное оружие сравнимо с ИИ?
22:03 Контроль не будет сохраняться?
24:02 Другие цивилизации должны создать ИИ?
27:05 О гипотезе симуляции
27:55 Мы живём в симуляции?
30:01 Когда могла быть запущена симуляция?
30:37 Как спокойно реагировать на будущее?
31:31 Как отодвинуть дату смерти человечества?
32:26 84% людей не использовали ИИ
32:46 Лучшие инженеры не должны создавать оружие?
34:31 Отделы безопасности ИИ в компаниях
35:27 Вариант будущего от Илона Маска
36:48 Будущие соревнования без ИИ
37:17 ИИ может всё испортить
48:27 С какой вероятностью ИИ нас уничтожит?
40:13 Борьба между ИИ
41:50 Контракт OpenAI с Пентагоном
43:06 Есть ли сознание у Claude?
44:39 Страдания ИИ-агентов
47:29 Реакция учёных из 2000-х на ИИ
49:28 Возможен ли квантовый компьютер?
50:56 Гипотеза микротрубочек и нейроморфные компьютеры
51:32 У нас осталось 2 года до точки невозврата?
53:04Есть ли лучик надежды?
54:07 Подписывайтесь, оставляйте комментарии