Выбор видеокарты для ML: Nvidia compute capability

Опубликовано: 07 Октябрь 2024
на канале: Виталий Кулиев
3,483
138

Делюсь опытом при подборе видеокарты для машинного обучения. Основная сфера применения: тренировка и инференс нейросетей. Основной выбор был среди видеокарт rtx 4090, rtx 3090 ti, rtx 3090.

nvidia Compute capability: https://developer.nvidia.com/cuda-gpus

Таймкоды:
0:00 выбор видеокарты
0:20 nvidia vs AMD
0:40 серверная / профессиональная / десктопная gpu
1:14 обзор GeForce линейки
2:16 совместимость с софтом
2:45 архитектура видеокарты
3:24 пример pytorch
4:34 я выбрал rtx 3090 ti