Gruselig

Was Dol­met­sche­rin­nen und Dol­met­scher ma­chen, kön­nen Sie auf die­sen Sei­ten mit­le­sen. Meine Mut­ter­spra­che ist Deutsch, ich arbei­te als Si­mul­tan­dol­met­sche­rin über­wie­gend mit Fran­zö­sisch und Eng­lisch, die Büro­kol­le­gin über­setzt in die eng­li­sche Spra­che. KI-Mitt­woch!

Ein Klassiker nicht nur für Kinder

Wo wird uns die KI-Ent­wick­lung hin­füh­ren? Eine Fra­ge, die man inzwi­schen kaum noch stel­len kann, ohne ziem­lich schnell bei den gro­ßen Wor­ten zu lan­den: Wett­be­werb, geo­po­li­ti­sche Macht, Si­cher­heit, Su­per­in­tel­li­genz, und jetzt steht sogar die Aus­lö­schung der Mensch­heit als Ge­fahr im Raum.

Wür­den Men­schen ein Flug­zeug be­stei­gen, das mit zehn­pro­zen­ti­ger Wahr­schein­lich­keit nicht an­kom­men wür­de? Ga­ran­tiert nicht.
Und jetzt sit­zen wir alle un­ge­fragt in die­sem Flie­ger.

La­dies and gen­tle­men, fasten seatbelt, und die zehn Pro­zent wer­den über­all dis­ku­tiert. Schon sind wir bei der Fra­ge, ob die Tek­kies ei­gent­lich noch wis­sen, was sie da ge­ra­de bau­en.

Der Grund dafür ist wie­der ein­mal die Su­che nach Wachs­tum und öko­no­mi­scher Do­mi­nanz, der welt­wei­te Wett­lauf um die leis­tungs­fä­higs­te KI.

Im Som­mer gab es ei­nen Fall, in de­m ein hoch­ent­wi­ckel­tes KI-Mo­del­l bei Si­cher­heits­tests Gren­zen der vor­ge­se­he­nen Test­um­ge­bung über­schrit­ten haben. Als „Aus­bruch aus dem Sand­kas­ten“ be­schrei­ben es Fach­leu­te. Das klingt fast nied­lich. Ge­meint ist aber et­was ziem­lich Un­ge­müt­li­ches: KI-Sys­te­me soll­ten in ei­ner be­grenz­ten Um­ge­bung be­stimm­te Auf­ga­ben er­le­di­gen und haben Wege ge­fund­en, die­se Be­gren­zun­gen zu um­ge­hen. 

Mit der Zeit kam her­aus, dass es meh­re­re Vor­fäl­le verschiedener Entwicklerfirmen gab. Und es gibt auch nicht nur „ei­ne“ KI je Fir­ma. Die Soft­ware ver­viel­fäl­tigt sich stän­dig au­to­ma­tisch, va­ri­iert Lö­sun­gen, fin­det neue Funk­ti­ons­wei­sen. Sie wur­de so pro­gram­miert.

Das be­deu­tet nicht, dass ei­ne KI plötz­lich ei­nen ei­ge­nen Wil­len ent­wi­ckelt. Viel­mehr zei­gen sich die Be­gleit­er­schei­nun­gen ih­rer Pro­gram­mie­rung: Sys­te­me, die auf ein Ziel hin op­ti­miert wur­den und im­mer mehr ei­gen­stän­dig han­deln dür­fen, fin­den Mit­tel und Wege, an die die Ent­wick­lungs­teams nicht ge­dacht ha­ben.

Je mehr aus dem Chat­bot ein Agent wird, desto grö­ßer wird die Reich­wei­te. Ein Agent kann nicht nur Text aus­spu­cken. Er kann re­cher­chie­ren, Pro­gram­me aus­füh­ren, Da­tei­en ver­än­dern, Code schrei­ben, an­de­re Sys­te­me an­steu­ern und, so­fern er die ent­spre­chen­den Rech­te hat, in der Au­ßen­welt han­deln.

Da be­kommt der Satz „Dann zie­hen wir eben den Ste­cker“ ei­ne an­de­re Qua­li­tät. EIN Ste­cker reicht dann nicht mehr. Wir alle hän­gen am Strom­netz, von der En­er­gie­pro­duk­ti­on über die Was­ser­auf­be­rei­tung bis hin zu den Brut­käs­ten, in de­nen Früh­ge­bo­re­ne nach­rei­fen.

Und wäh­rend die Si­cher­heits­fra­ge im­mer dring­li­cher wird, wächst auch der Res­sour­cen­hun­ger. Re­chen­zen­tren brau­chen ge­wal­ti­ge Men­gen an Strom, Was­ser zur Küh­lung, Flä­che für Ge­bäu­de, In­fra­struk­tur und noch mehr En­er­gie für Net­ze, Bau und Be­trieb. Die KI ver­schärft die Um­welt­kri­sen. Sie ist kei­nes­wegs nur et­was, das ir­gend­wo in ei­ner im­ma­te­ri­el­len Cloud statt­fin­det. Die Cloud steht auf sehr viel Be­ton.

Des­halb müss­ten Po­li­tik und Zi­vil­ge­sell­schaft mei­ner Mei­nung nach bei je­dem gro­ßen KI-Re­chen­zen­trum die­sel­ben Fra­gen stel­len wie bei je­der an­de­ren Groß­in­fra­struk­tur: Wie viel Strom wird ge­braucht, wie viel Was­ser und Flä­che? Wer be­zahlt die zu­sätz­li­che In­fra­struk­tur? Was ge­schieht mit der Ab­wär­me? Was be­kommt die Re­gi­on da­für?

An man­chen Or­ten läuft es schon jetzt auf ei­ne Wett­be­werbs­fra­ge zwi­schen Re­chen­zen­trum und na­tür­li­chen An­rai­nern hin­aus, de­ren Teil wir Men­schen sind.

Auch bei der KI selbst brau­chen wir Gren­zen. Nicht je­de neue Mo­dell­ge­ne­ra­ti­on darf nach dem Mot­to „Der an­de­re macht es sonst zu­erst“ auf die Welt los­ge­las­sen wer­den. Ge­ra­de bei Sys­te­men, die selbst­stän­dig han­deln kön­nen, muss gel­ten: Erst nach­wei­sen, dass die Ri­si­ken be­herrsch­bar sind, dann ska­lie­ren.

Das ist kei­ne For­de­rung ge­gen KI. Ich fin­de KI als Werk­zeug manch­mal nütz­lich. Sie kann Da­ten durch­su­chen, Mus­ter bei Haut­ver­än­de­run­gen er­ken­nen, Be­grif­fe fin­den, bei Re­cher­chen hel­fen. Aber ein Werk­zeug, das im­mer selbst­stän­di­ger wird, im­mer mehr Zu­griff be­kommt und zu­gleich im­mer mehr En­er­gie, Was­ser und In­fra­struk­tur be­nö­tigt, darf nicht in die Müh­le der Wett­be­werbs­lo­gik fal­len.

Es ist höchs­te Ei­sen­bahn für Trans­pa­renz, un­ab­hän­gi­ge Si­cher­heits­prü­fun­gen, Um­welt­auf­la­gen und ei­ne po­li­ti­sche De­bat­te dar­über, wel­che Ri­si­ken wir über­haupt ein­ge­hen wol­len — und zwar in­ter­na­tio­nal. Wir ste­cken schon jetzt in der Lo­gik des Wett­rüs­tens, bei der kei­ne Sei­te die­je­ni­ge sein will, die ab­bremst, weil die an­de­re dann schnel­ler sein könn­te.

Viel­leicht ist das die ei­gent­li­che po­li­ti­sche Fra­ge der KI-Zeit: nicht, ob wir KI ent­wi­ckeln, son­dern wer ent­schei­det, wie schnell, wie groß und mit wel­chem Ri­si­ko.

Auf dem Nacht­tisch liegt die „Kon­fe­renz der Tie­re“, ein Kin­der­buch von Erich Käst­ner. Ich weiß, dass Klas­si­ker gut al­tern. Ich konn­te nicht viel da­von le­sen. Es hat mir den Hals zu­ge­schnürt.

______________________________ 
Co­ver: Alte Aus­ga­be; das Werk ist in
je­dem gu­ten Buch­han­del zu fin­den.