Олег Шляжко | Оптимизация обучения больших GPT моделей

Описание

Data Fest Online 2021
NLP in Industry track https://ods.ai/tracks/nlp-df2021

Поговорим про ограничения, встающие на нашем пути при попытке обучать модели размерами в миллиарды весов. Рассмотрим методы их обхода и практические примеры применения на GPT-3 LM.

Посмотреть эфир и список треков и организаторов: https://datafest.ru/2021/
Зарегистрироваться на фест и получить доступ к трекам: https://ods.ai/events/datafest2021
Вступить в сообщество: https://ods.ai/

Соцсети Data Fest:
https://t.me/datafest
https://vk.com/datafest