ЗАМOРОЖЕННЫЙ ИИ: как нейросеть превращают в кремний

Описание

Нейросеть, которую не нужно загружать. ИИ-чипы нового поколения способны буквально зашивать искусственный интеллект прямо в кремний. Как это работает и почему Google и Taalas заинтересовались этой технологией?

Поддержка:
Boosty: https://boosty.to/vaulttec13
DonationAlerts https://www.donationalerts.com/r/vaulttec_13
Донат Boosty: https://boosty.to/vaulttec13/donate
ВК https://vk.ru/VaultTec_13

Сегодня современные нейросети требуют огромных вычислительных мощностей, дорогих видеокарт, высокоскоростной памяти и гигантских дата-центров. Но что, если можно отказаться от значительной части этой инфраструктуры?

Канадский стартап Taalas представил HC1 — специализированный ИИ-чип, в котором веса нейросети физически закодированы в структуре микросхемы. По заявлениям разработчика, такая архитектура позволяет добиться невероятной скорости генерации текста.

А Google, по сообщениям о проекте Frozen, тоже исследует возможность создания процессоров, в которых обученная модель или её вычислительная структура будут буквально встроены в кремний.

В этом выпуске Смотритель открывает технические архивы и разбирается:

— почему современные GPU тратят столько энергии на перемещение данных;
— что такое стена памяти и почему она мешает развитию искусственного интеллекта;
— как работает технология Taalas HC1;
— каким образом веса нейросети можно физически записать в микросхему;
— почему такой чип способен генерировать тысячи токенов в секунду;
— что такое вычисления Multiply, Select, Add;
— как Google работает над проектом Frozen;
— почему замороженные нейросети могут оказаться дешевле обычных AI-моделей;
— какие недостатки есть у специализированных ИИ-процессоров;
— почему такие чипы могут быстро устаревать;
— смогут ли нейросети однажды работать прямо внутри смартфонов без облака и постоянного подключения к интернету.

Но у этой технологии есть и обратная сторона.

Если нейросеть буквально впаяна в кремний, её уже нельзя просто обновить обычной загрузкой нового файла. Производительность может вырасти, энергопотребление — снизиться, но гибкость окажется под вопросом.

Так что же ждёт индустрию искусственного интеллекта?

Обычные GPU уступят место специализированным ИИ-чипам или будущее принадлежит целой экосистеме разных процессоров?

Жители Убежища, сегодня мы заглянем в будущее вычислительной техники.

Возможно, однажды искусственный интеллект перестанет быть программой, которую запускают на компьютере.

Он станет частью самого компьютера.

Подписывайтесь на канал, ставьте лайки и делитесь своим мнением в комментариях. Смотритель продолжит разбирать самые интересные технологии из довоенных архивов.

00:00 — Введение: загадочный проект Google Frozen
02:01 — Стена памяти: почему чипы тратят энергию впустую
06:08 — Попытки обойти барьер (Cerebras и Groq)
08:18 — Taalas HC1: модель зашита прямо в кремний
11:26 — Принцип Multiply-Select-Add: как чип считает без перемножения
13:10 — Где хранится динамический контекст диалога
14:15 — Откуда берутся 17 000 токенов в секунду
17:40 — Концепция Google Frozen: от V1 к гибкому V2
21:04 — Четыре скрытых цены «заморозки»
24:14 — Будущее ИИ-агентов и дешёвая генерация
25:28 — Нейросети в смартфонах без облака
26:55 — Итоги и вопросы к аудитории

#ИскусственныйИнтеллект #Нейросети #ИИЧипы #Google #Taalas #Технологии