Einrichtung einer NVIDIA Grafikkarte

Wenn für die GPU-beschleunigte KI-Modellausführung keine Beckhoff-Hardware mit zugehörigem Beckhoff Image verwendet wird, ist der Kunde selbstständig dafür verantwortlich, auf seinem System die notwendigen Rahmenbedingungen für einen Betrieb der Grafikkarte herzustellen.

Sollten Sie einen Beckhoff IPC mit GPU und zugehörigem Beckhoff Image verwenden, können Sie diesen Abschnitt überspringen.

Systemvoraussetzungen

Die Systemvoraussetzungen betreffen insbesondere die erforderlichen Komponenten von NVIDIA. Die im folgenden aufgeführten Software-Versionen sollten nicht aktueller sein als die angegeben Versionen (z. B. nicht CUDA 12.6 installieren), da es ansonsten zu Inkompatibilitäten kommt.

NVIDIA-Treiber

• Normale NVIDIA GPU: Version 560.67
• Quadro/RTX GPU: Version 522.86

CUDA (Compute Unified Device Architecture)

• CUDA Version12.5.1

cuDNN

• cuDNN Version 9.2.1.18 (als zip-Datei, nicht als Windows Installer nutzen)
• Instruktionen zur Installation finden Sie bei NVIDIA: Tarball Installation.
• Es ist notwendig, den Pfad zu den cuDNN-Bibliotheken zu der PATH-Variable des Systems, nicht der des Users, hinzuzufügen.

In der Regel werden durch die obigen Maßnahmen die folgenden Voraussetzungen auf dem System erfüllt:

• Verfügbarkeit der cuda.dll Bibliothek
• Verfügbarkeit der nvml.dll Bibliothek

Optimiertes Laufzeitverhalten

Bei Verwendung von Beckhoff-Hardware, z. B. Industrie-PC C6043 mit GPU und zugehörigem Beckhoff Image, ist das Laufzeitverhalten der NVIDIA GPU optimal für das Zusammenspiel mit der TwinCAT-Echtzeit ausgelegt. Bei Verwendung von Drittanbieter-GPUs können, abhängig von der konkreten GPU und dessen Einstellungen, erhebliche Laufzeitschwankungen bei der Modellausführung auftreten.

Der TwinCAT Machine Learning Server informiert direkt nach dem Starten des Servers im Log-File über mögliche Herausforderungen der verwendeten Grafikkarte.