NVIDIA крутит FP64 в cuBLAS — GEMM под симуляции и AI на одном слое

В научных симуляциях — от молекулярной химии до материалов — большую часть времени съедает плотное умножение матриц в полной 64-битной точности. NVIDIA дорабатывает в cuBLAS FP64-алгоритмы под этот профиль, чтобы ускорить и вещественные, и комплексные прогоны.
cuBLAS — прослойка между приложением и GPU: и HPC-кластеры, и AI-код зовут её, чтобы не собирать GEMM и остальные базовые BLAS-операции вручную под каждый репозиторий.
Где именно узкое место
- DGEMM — плотные матрицы для вещественных 64-битных чисел.
- ZGEMM — то же для комплексных 64-битных данных.
- Доля времени — в таких симуляциях на high-precision dense GEMM уходит большинство выполнения, а не «редкие» вызовы.
Одна библиотека закрывает и длинные scientific simulations, и AI-сценарии, где линейная алгебра должна ехать быстро. Конкретные цифры ускорения и детали ядер — в материале NVIDIA Developer; если double в CUDA-стеке внезапно доминирует в профайлере, первым делом смотрят, какая версия cuBLAS подтянулась в окружении.
Источник: Faster Scientific Simulations with New FP64 Algorithms in NVIDIA cuBLAS.