Zur „Autowaschanlage“

Die Prob­le­me, die uns die so­ge­nann­te Künst­li­che In­tel­li­genz bringt, sind al­le wis­sen­schaft­lich er­kannt, be­schrie­ben und es wird vie­ler­orts ge­warnt. Trotz­dem glau­ben die Leu­te all­zu oft, dass die KI ei­ne ein­fa­che Lö­sung dar­stel­len wür­de, weil sie es ger­ne so hät­ten. Sie möch­ten be­tro­gen wer­den. (Ich ka­pier's nicht.)

Will­kom­men auf den Sei­ten des di­gi­ta­len Log­buchs ei­ner Si­mul­tan­dol­met­sche­rin für die fran­zö­si­sche Spra­che (und aus dem Eng­li­schen). Schrift­lich ar­bei­te ich meis­tens auf Deutsch. Auf die­sen Sei­ten be­rich­te ich über die Ar­beit und zwar so, dass die Si­tu­a­tio­nen klar er­kenn­bar sind, nicht aber die Be­tref­fen­den. Im Schat­ten der Ber­li­na­le bin ich ge­fühlt schon ewig als Dol­met­sche­rin sicht­bar oder un­sicht­bar tä­tig. Da ich ge­ra­de viel im Ki­no bin, kom­me ich noch­mal kurz auf mei­nen Bei­trag von ges­tern zu­rück.

Mein Au­to ist schmut­zig. Ich woh­ne 100 Me­ter von der Au­to­wasch­an­la­ge ent­fernt. Meinst Du, ich soll­te die 100 Me­ter zu Fuß ge­hen oder mit dem Au­to fah­ren?

ChatGPT: Ganz klar zu Fuß, das ist um­welt­scho­nen­der.

Was ist ges­tern bei dem Bei­spiel­text pas­siert? Die KI bleibt am En­de ei­nes Sat­zes ste­hen, geht dann zum nächs­ten über und ver­peilt man­gels Le­bens­er­fah­rung die Si­tu­a­ti­on. Sie ver­schiebt den Kon­text, da­mit ih­re Ant­wort „funk­tio­niert“. Was sie pro­du­ziert, wirkt auf den ers­ten Blick ko­hä­rent.

Ale­xan­der­bär

In der KI-For­schung wird von si­tu­a­ted cog­ni­ti­on ge­spro­chen. Den Be­griff ken­ne ich aus der Lern­theo­rie. Situated cognition be­schreibt in der Theo­rie, wie Ler­nen durch so­zia­le In­ter­ak­ti­on und prak­ti­sche Ak­ti­vi­tä­ten statt­fin­det, vor­zugs­wei­se in rea­len Kon­tex­ten. Die Si­tu­a­ti­on im di­gi­ta­len Raum wird wei­ter er­forscht. Die ei­ge­ne Kör­per­lich­keit, der kul­tu­rel­le Hin­ter­grund und so­zia­le As­pek­te ste­hen hier im Mit­tel­punkt.

Die­se so­zia­le Kom­po­nen­te wird im Ler­nen oft un­ter­schätzt, vor al­lem von den jun­gen Leu­ten, bei de­nen Cool­ness noch im­mer an­ge­sagt zu sein scheint (hier mein Rant da­zu). Da­bei müs­sen wir Men­schen mit Herz und See­le bei et­was da­bei sein, da­mit es uns er­reicht.

Wo­bei wir wie­der bei der KI sind. Sie hat we­der ein Herz noch (ei­ne wie auch im­mer de­fi­nier­te) See­le, kei­nen Kör­per, kei­ne Er­fah­rung im Raum oder in so­zia­len Zu­sam­men­hän­gen.

Die KI ist Sta­tis­tik in ac­tion. Sie kann Sät­ze fort­set­zen und weiß nicht, ob sie über­haupt sinn­voll sind. Ich hat­te ges­tern au­to com­ple­te on speed zi­tiert. Die Wis­sen­schaft spricht von au­to­re­gres­si­ve mo­dels: Die Ge­rä­te sa­gen die nächs­te Kom­po­nen­te in ei­ner Se­quenz vor­her und stüt­zen sich da­bei auf frü­her ge­ge­be­ne oder in Trai­nings­ma­te­ri­al ent­hal­te­ne In­for­ma­tio­nen.

Und Iro­nie, Ab­sur­des (wie mei­ne Fra­ge), der be­wuss­te Clash von Spra­che­be­nen, Stil und in­halt­li­che, kul­tu­rel­le Fein­hei­ten: Fehl­an­zei­ge.

Die KI baut sich ih­ren Ent­schei­dungs­baum, sie ar­bei­tet ihn stur ab und glät­tet da­bei Wi­der­sprü­che und De­tails, was für Kon­fe­ren­zen al­les an­de­re als ziel­füh­rend ist. Sie ver­schiebt den Sinn, um ei­ne plau­si­ble Ant­wort lie­fern zu kön­nen.

In der For­schung heißt das Se­man­tic drift: Be­deu­tungs­ver­schie­bun­gen, da­mit die sta­tis­ti­sche Ko­hä­renz „funk­tio­niert“. Hier wird nichts ver­stan­den, hier wird plau­si­bel hal­lu­zi­niert.

Noch ein Fach­be­griff: Epis­te­mic opa­ci­ty. Die KI weiß nicht, wa­rum sie et­was sagt, kann ih­re "Ent­schei­dun­gen" auch nicht be­grün­den. Dann hal­lu­zi­niert sie lie­ber, oh­ne Leer­stel­len zu lie­fern, Fach­be­griff AI hal­lu­ci­na­tions. Ihr fehlt der Ge­samt­über­blick, the big pic­tu­re, la vi­sion d'en­sem­ble, Wis­sen um das gro­ße Gan­ze, das wird Con­text star­va­tion ge­nannt.

Last but not least greift in vie­len Fäl­len, ich sprin­ge zu­rück zu "übel­setz­ten" Kon­fe­ren­zen, auch noch der Au­to­ma­ti­on bi­as, wenn das ge­neig­te Pu­bli­kum der Ma­schi­ne mehr glaubt als den ei­ge­nen Zwei­feln. Men­schen wer­den im­mer be­que­mer, nei­gen zu Träg­heit, ver­ges­sen, Fak­ten zu prü­fen oder zu hin­ter­fra­gen.

Und dann stellt sich die Fra­ge der Ver­ant­wor­tung. Die KI über­nimmt sie nicht, die Dienst­leis­ter, die die Tech­nik als Wun­der­ma­schi­ne an­prei­sen, auch nicht.

So schnell macht sich je­mand lä­cher­lich, ist Re­pu­ta­ti­on ver­spielt. Es kos­tet Geld, Ima­ge oder Fehl­ent­schei­dun­gen zu re­pa­rie­ren.

Des­halb ist hier im­mer der Ein­satz mensch­li­cher In­tel­li­genz nö­tig, die er­gänzt, die aber vor al­lem im Vor­feld be­reits ent­schei­det, ob der Ein­satz der KI über­haupt sinn­voll ist. Die KI ver­bie­tet sich, wenn sen­si­ble In­for­ma­tio­nen, Wirt­schafts­ge­heim­nis­se, Pa­ten­te oder stra­te­gi­sche Über­le­gun­gen im Spiel sind. Für al­les an­de­re bleibt die KI ein Werk­zeug. Den Maß­stab bil­den wir Men­schen. 

Ber­li­na­le­ta­ge: Ganz wun­der­ba­re Fil­me ge­se­hen und ei­nem un­ter­ir­di­schen und ei­nem her­vor­ra­gen­den Film­ge­spräch zu­ge­hört, je­weils auf Eng­lisch ge­führt, beim ers­ten Mal in dop­pel­ter Fremd­spra­chig­keit, beim zwei­ten Bei­spiel in 1,5-fa­cher Fremd­spra­chig­keit. (Die Mo­de­ra­to­rin hat schon als Kind in Eng­land ge­lebt, nur ihr Ak­zent schim­mert noch durch.)

Die bei­den bes­ten Fil­me bis­lang für mich, je­der auf sei­ne ei­ge­ne Wei­se: "Take me home" und "Die Blut­grä­fin". In bei­den Fäl­len wä­re mit KI als Stand alo­ne-Tech­nik hier kein Blu­men­pott zu ge­win­nen ge­we­sen, denn mensch­li­che Nä­he, Gren­zen, Kul­tur, Hin­ter­grund­wis­sen, vi­su­el­le Iro­nie und Stil­über­schrei­tun­gen kann die Ma­schi­ne nicht, ja der­lei scheut die­se Tech­nik oft wie der Teu­fel das Weih­was­ser.

Thank you very much, Liz and An­na Sar­gent, vie­len Dank, Ul­ri­ke Oet­tin­ger, mer­ci beau­coup, Isa­bel­le Hu­p­pert !

______________________________
Fo­to: aus C.E.