Speed it up: tricks&tips for working with GPU memory in CUDA

Описание

Юлия Бареева (Xperience AI) о программировании на CUDA.

Открытые семинары Xperience AI проходят каждый четверг в 16 : 30 (мск). Зарегистрируйтесь и получайте анонсы предстоящих семинаров: https://bit.ly/3IfsEqp

В этом видео:
1:05 Turing Architecture
1:52 Turing Streaming Multiprocessor (SM) Architecture
5:57 Compute Unified Device Architecture
6:54 Kernel function
8:15 Threads and blocks
11:13 Example
16:17 Performance
19:45 GPU memory
22:11 Pinned memory
25:43 CUDA Streams
30:04 Shared memory
32:33 Shared memory example
33:23 Задача N-тел
34:12 Conflict in memorybanks
36:43 Задача перемножения матриц
39:36 Instruction Level Parallelism
40:26 Задача перемножения матриц (N = 4096)
41:25 Ответы на вопросы