Parallele Verarbeitung

CUDA ist eine Plattform für paralleles Rechnen und ein API-Modell, das von NVIDIA entwickelt wurde, um die GPU-Leistung zu nutzen.

NCCL ist eine Bibliothek, die von NVIDIA für hochleistungsfähige kollektive Kommunikation in GPU-Anwendungen entwickelt wurde.