Beispiel

Kanal 1 soll bei Zweidrahtmessung an zwei Punkten bei 100 Ω und 350 Ω abgeglichen werden. Das Vendor-Offset für den 2-Draht- Abgleich beträgt -2607 (entnommen aus Index 0x800F:03).

Folgende Messwerte werden aufgenommen:

100 Ω durch Präzisionswiderstand

X1 = 25600 (1/256 Ω)

171125, abgelesen in Index 0x800E:01

Y1 = 171125

350 Ω durch Präzisionswiderstand

X2 = 89600 (1/256 Ω)

592224, abgelesen in Index 0x800E:01

Y2 = 592224

Mit den Gleichungen (1) - (3):

Beispiel 1:

ergeben sich die Werte für gf, GU und OU zu:

Beispiel 2:

Die Indizes akzeptieren nur ganzzahlige Werte. Es sind also folgende Einträge im CoE vorzunehmen:
Index 0x8000:17 = -12
Index 0x8000:18 = 9960

Anschließend ist der Herstellerabgleich zu deaktivieren (0x8000:0B) und der Anwenderabgleich zu aktivieren (0x8000:0A).