ST_PredictionParameter

Konfigurationsoptionen für eine Inferenzsitzung auf dem TcMlServer.

Name

Typ

Default

Beschreibung

sMlModelFilePath

STRING(255)

 

Fullpath zum erstellten JSON-File (siehe Model Manager)

eExecutionProvider

E_ExecutionProvider

ExecutionProvider.CPU

Unter sMlModelFilePath benanntes KI-Modell soll auf dieser spezifizierten Hardware ausgeführt werden.

nDeviceId

UDINT

0

Index des gewünschten GPU-Geräts bei Verwendung des „CUDA“-ExecutionProviders. Der Index entspricht dem CUDA Compute Index und ist nur für IPCs mit mehreren GPUs relevant.

bExclusiveSession

BOOL

TRUE

Bestimmt die Exklusivität der Inferenzsitzung, die für die FB-Instanz auf dem TcMlServer erzeugt wird. Wenn TRUE, erzeugt der TcMlServer eine exklusive Sitzung, die für zustandsabhängige Modelle (z. B. RNNs) notwendig ist, um Interferenzen zu vermeiden. Bei FALSE kann die Sitzung mit anderen FB-Instanzen, die dieselbe Konfiguration anfordern, geteilt werden, was die Speicherbelastung verringern kann.

nSessionTimeout

ULINT

72

Dauer der Inaktivität in Stunden, nach der die Sitzung des FB beim TcMlServer abläuft. Der Server gibt dann die allokierten Ressourcen des betreffenden Clients wieder frei.

sMlSvrNetId

T_AmsSvrNetId

'127.0.0.1.1.1'

AMS Net Id des Geräts auf dem der TcMlServer Service erreichbar ist. Default ist „lokal“.