KI: fehlerhalft, teuer

Gu­ten Tag, lie­be Kol­le­gin­nen, Kol­le­gen und ge­schätz­te Mit­le­sen­de aus Wirt­schaft, Wis­sen­schaft und Di­plo­ma­tie! Hier bloggt im 20. Jahr eine Kon­fe­renz­dol­met­sche­rin und Über­set­ze­rin mit den Sprachen DE, FR und EN. Heu­te: Wer für die hei­ße Luft be­zahlt, war­um KI-Hal­lu­zi­na­tio­nen beim Dol­met­schen rich­tig teuer wer­den. KI-Mitt­woch!

Wer die­sen Blog re­gel­mä­ßig liest, weiß: Ich se­he Spra­che nicht als blo­ße An­ein­an­der­rei­hung von Wör­tern, son­dern als Hand­werk, als kom­ple­xes Be­zie­hungs­ge­flecht und — vor al­lem — als Ver­ant­wor­tung. Ma­schi­nen kön­nen das nicht. Wenn in der Di­plo­ma­tie oder bei ei­ner Auf­sichts­rats­sitz­ung Wör­ter falsch ge­wählt wer­den, wird es brenz­lig.

Bis­lang hieß es von den Tech-Evan­ge­lis­ten zu sol­chen Si­tua­tio­nen, die von der KI aus­ge­löst wur­den, nur ge­lang­weilt bis über­cool: „Na und? Dann hal­lu­zi­niert die KI eben ein biss­chen. Ist doch nur Tech­nik, ver­sen­det sich, ist egal.“ Die­ses „Egal“ war ei­ne Chiff­re für ‚Haf­tet ja kei­ner da­für‘. Falsch ge­dacht.

Die Schon­frist für Al­go­pfusch ist end­gül­tig vor­bei.

Die Ge­rich­te ha­ben eine glas­kla­re Li­nie ge­zo­gen. Und das hat mas­si­ve Aus­wir­kun­gen dar­auf, wie Un­ter­neh­men, Messen, Medien und di­plo­ma­ti­scher Dienst künf­tig mit dem The­ma Dol­met­schen um­ge­hen müs­sen. Das Land­ge­richt Mün­chen I hat ge­ur­teilt (Az. 26 O 869/26), dass Goog­le di­rekt für feh­ler­haf­te Ant­wor­ten sei­ner KI-Zu­sam­men­fas­sun­gen haf­tet. Die Rich­ter ar­gu­men­tier­ten: Wer KI-Tex­te ge­ne­riert und als fer­ti­ges Er­geb­nis prä­sen­tiert, macht sich die­se In­hal­te zu ei­gen. Die­ses Prin­zip lässt sich eins zu eins auf das KI-Dol­met­schen über­tra­gen.

Ein Live-„Über­set­zungs“­tool spuckt nicht bloß Wör­ter aus ei­nem Wör­ter­buch aus, es ge­ne­riert ei­gen­stän­dig Sät­ze. Wenn die­ses Tool in ei­ner Ver­hand­lung gro­be Feh­ler macht oder, wie es so schön eu­phe­mis­tisch heißt, „hal­lu­zi­niert“, steht der Be­trei­ber oder das ein­set­zen­de Un­ter­neh­men voll in der Ver­ant­wor­tung. Da­zu kommt die EU-Pro­dukt­haf­tungs­richt­li­nie. KI-Sys­te­me gel­ten recht­lich als „Pro­duk­te“. Be­deu­tet: Der Her­stel­ler haf­tet bei Feh­lern ver­schul­dens­un­ab­hän­gig und un­be­grenzt.

Beim un­kon­trol­lier­ten Ein­satz von KI-Sys­te­men im Pro­fi-Be­reich re­den wir nicht über klei­ne Tipp­feh­ler. Wir re­den über hand­fes­te Ri­si­ken. In der Wirt­schaft kann eine falsch ge­dol­met­sch­te Klau­sel bei ei­ner Über­nah­me oder ein miss­ver­stan­de­nes De­tail in ei­ner Pa­tent­ver­hand­lung den Deal kom­plett zum Ein­sturz brin­gen. Das mün­det in Scha­dens­er­satz­for­de­run­gen, die in die Mil­lio­nen ge­hen. In der Di­plo­ma­tie kann ein Nu­an­cen-Feh­ler bei ei­nem Hin­ter­grund­ge­spräch in­ter­na­tio­na­le Ver­stim­mun­gen aus­lö­sen.

Ein Staat kann sich bei di­plo­ma­ti­schen Kri­sen nicht dar­auf be­ru­fen, dass „der Bot ei­nen schlech­ten Tag hat­te“. Bes­ser wis­sen müss­ten es ei­gent­lich die­je­ni­gen, die sol­che Tools ver­kau­fen.

Mo­der­ne Tech-An­bie­ter und Ver­triebs­leu­te ver­spr­echen das Blaue vom Him­mel, um ihre Soft­ware als vol­lwer­ti­gen Er­satz für mensch­liche Dol­met­scher zu po­si­tio­nie­ren. Sie ig­no­rie­ren da­bei be­wusst, dass die Tech­no­lo­gie ei­ner qua­li­fi­zier­ten Fach­kraft frap­pier­end un­ter­le­gen ist.

Zehn knall­har­te Grün­de, war­um KI-Sys­te­me das rich­ti­ge Dol­met­schen schlicht­weg gar nicht be­herr­schen kön­nen:
🛑 Lückenfantasie: KI er­fin­det bei Un­klar­hei­ten plötz­lich kom­plett ei­ge­ne In­hal­te da­zu, die Hal­lu­zi­na­tio­nen.
🛑 Kon­text­blind­heit: Ge­sell­schaft­li­che An­spie­lun­gen oder Kul­tur-Kon­tex­te wer­den nicht er­fasst.
🛑 Lärmkol­laps: Hin­ter­grund­ge­räu­sche oder Ne­ben­ge­sprä­che brin­gen das Sys­tem zum Ab­sturz.
🛑 Dia­lekt­schwä­che: Star­kes Nu­scheln oder lo­ka­le Ak­zen­te ver­zerr­en das Re­sul­tat voll­stän­dig.
🛑 Wortchaos: Wenn Men­schen dur­ch­ein­an­der­re­den, ver­liert der Al­go­rith­mus den Fa­den.
🛑 Kör­per­ig­no­ranz: Ge­stik und Mi­mik wer­den nicht ‚gesehen‘, ob­wohl sie die Be­deu­tung steu­ern.
🛑 Feh­ler­ket­ten: Ver­spricht sich der Red­ner, über­setzt die KI den Ab­bruch un­kor­ri­giert mit.
🛑 Wort­spiel­ab­sen­ce: Kom­ple­xe Me­ta­phern er­ge­ben nach der KI-Über­tra­gung oft kei­nen Sinn.
🛑 Iro­nie­taub­heit: Zwi­schen­tö­ne wie Sar­kas­mus ver­steht die Ma­schi­ne meis­tens wort­wört­lich.
🛑 Em­pa­thie­fer­ne­: KI kann un­höf­li­che Spit­zen in Ver­hand­lun­gen nicht de­es­ka­lie­rend glät­ten.

Ein Tool hat kein Un­rechts­be­wusst­sein. Ei­ne Soft­ware spürt kein Scham­ge­fühl, wenn sie ein Un­ter­neh­men in den Ru­in treibt, und man kann sie nicht vor Ge­richt zer­ren. Wir mensch­li­chen Dol­met­scher­in­nen und Dol­met­scher bie­ten et­was, das keine KI der Welt re­pli­zie­ren kann: Be­rufs­ethos und Haf­tung. Wir ste­hen mit un­se­rem Na­men, un­se­rem Ver­stand und, ganz prag­ma­tisch, mit un­se­rer Be­rufs­haft­pflicht­ver­si­che­rung für die ab­so­lu­te Prä­zi­si­on un­se­rer Ar­beit ge­ra­de.

Ar­beits­platz Dol­metsch­ka­bi­ne

Wir fil­tern das Nu­scheln, wir ver­ste­hen die Iro­nie, wir glät­ten die Wo­gen und wir le­sen zwi­schen den Zei­len, um das We­sent­li­che zu trans­por­tier­en. Wer am Dol­metsch­bud­get spart und auf die ver­meint­lich „güns­ti­ge“ KI setzt, spart am fal­schen Ende. Die Church of AI führt ihre Glau­ben­den aufs Glatt­eis. Denn „gut ge­nug“ kann ver­dammt teuer kom­men, wenn's schief geht. Und es geht schief, sie­he oben.

Wie se­hen Sie das? Ha­ben Sie in Ih­rem ge­schäft­li­chen All­tag schon er­lebt, dass KI-Über­set­zun­gen zu ech­ten Miss­ver­ständ­nis­sen ge­führt ha­ben? Schrei­ben Sie's mir gern in den Kom­men­ta­ren!

Herz­li­che Grü­ße aus der Ka­bi­ne (Som­mer­uni­ver­si­tät),
Ihre
Ca­ro­li­ne Eli­as

______________________________
Fo­to: C.E. (Ar­chiv)