Try now, pray later?

Will­kom­men auf den Sei­ten ei­ner Kon­fe­renz­dol­met­scherin für die fran­zö­si­sche Spra­che und aus dem Eng­li­schen, die in den Be­rei­chen De­mo­kra­tie, Spra­che, Kul­tur, Wirt­schaft und Ge­sell­schaft ar­bei­tet. Die neue Fol­ge mei­nes KI-Mitt­wochs lau­tet so:

Mensch ge­gen Ma­schi­ne, hier die ge­fühl­te Fol­ge Nr. 534. Die War­nung, die ich mich bis­lang noch nicht wei­ter­zu­lei­ten ge­traut ha­be, kommt di­rekt aus der Schalt­zen­tra­le des Fort­schritts: Google Deep­Mind hat ein bri­san­tes Pa­pier fol­gen­den In­halts ver­öf­fent­licht: „Wir könn­ten bald Ma­schi­nen bau­en, die klü­ger sind als wir, und das war’s dann mit der Mensch­heit!“

Na dann: Fro­he Zu­kunft!
Wo­rum geht’s ge­nau? Deep­Mind rech­net ernst­haft da­mit, dass so­ge­nann­te Ar­ti­fi­cial Ge­ne­ral In­tel­li­gence (AGI) — al­so KI mit men­schen­ähn­li­cher Denk­fä­hig­keit — be­reits bis 2030 start­klar ist, also fast über­mor­gen.

Gefahr: Technik ersetzt Mensch

Das wirk­lich Er­staun­li­che am Pa­pier ist aber nicht die Zeit­pro­gno­se, son­dern ein Satz, der im Be­richt recht nüch­tern da­her­kommt, der ei­nem aber bei ge­nau­e­rem Le­sen das Blut in den Adern ge­frie­ren lässt: AGI könn­te „die Mensch­heit dau­er­haft ver­nich­ten“, wenn sie falsch pro­gram­miert oder miss­braucht wird.
Oha.

Die Re­de ist nicht von Un­fäl­len oder Re­chen­feh­lern, son­dern von ei­nem mög­li­chen En­de der Spe­zies.

Das klingt wie ei­ne fie­se Dys­to­pie aus Hol­ly­wood. Es ist aber ein ernst­ge­mein­tes Sze­na­rio aus dem Her­zen der Tech-Eli­te.

Ei­ne Art UN für die KI, bit­te!
De­mis Has­sa­bis, der Chef von Deep­Mind, schlägt vor, ei­ne Art Welt-KI-Rat zu grün­den, ei­ne in­ter­natio­nale Or­ga­ni­sa­tion, die über al­le AGI-Ent­wick­lun­gen wacht. Ein biss­chen wie die UNO, nur mit mehr In­for­ma­ti­kern und mit we­ni­ger Di­plo­ma­ten.

Oder bes­ser noch die Atom­for­schungs­be­hör­de CERN als Vor­la­ge, nur eben für die KI, als glo­ba­les For­schungs­kon­sor­ti­um mit Eh­ren­ko­dex und ge­teil­ten Si­cher­heits­stan­dards. (Die Phy­si­ker:­in­nen dürf­en ja auch nicht al­lein am Higgs-Bo­son schrau­ben.)

Ob sich die KI-In­dus­trie auf Ethik­grund­sät­ze ei­ni­gen kann, ist frag­lich. Wer heu­te schon bei Chat­bots um Markt­vor­tei­le in Pro­zen­ten kämpft, dürf­te bei der Fra­ge „Wem ge­hört die Su­per­in­tel­li­genz?“ nicht zur Ko­o­pe­ra­tion nei­gen.

Ein gan­zer Chor von War­nern
Mit sei­nen Sor­gen steht Has­sa­bis nicht al­lein da. Geof­frey Hin­ton, der so­ge­nann­te „God­fa­ther of AI“, hat sei­nen Job in der For­schung quit­tiert und ver­bringt sei­ne Zeit als Warn­stim­me. Er warnt ein­dring­lich vor Sys­te­men, de­ren Ver­hal­ten wir nicht mehr nach­voll­zie­hen oder kon­trol­lie­ren kön­nen.

Der ewi­ge Op­ti­mist in Sa­chen Tech­no­lo­gie Ray Kur­z­weil, Lei­ter der tech­ni­schen Ent­wick­lung bei Goo­gle LLC, bleibt auch hier ge­las­sen. Er rech­net da­mit, dass schon 2029 der Durch­bruch zur men­schen­ähn­li­chen KI er­folgt. Auch er sieht Ri­si­ken. Wenn er sich äu­ßert, klingt das aber mehr nach ka­put­ter Hei­zung als nach Welt­un­ter­gang.

Try now, pray later?
Wir ha­ben uns an­ge­wöhnt, Tech­nik nach dem Prin­zip „Tri­al and Er­ror“ zu ent­wick­eln. Dumm nur, dass bei exis­ten­zi­el­len Fra­gen nach­träg­li­che Feh­ler­ana­ly­sen ir­gend­wie ein we­nig zu spät sind.

Wir brau­chen wahr­schein­lich ei­ne Art di­gi­ta­les Ky­o­to-Pro­to­koll. Doch dar­über denkt in den hek­ti­schen Zei­ten nie­mand nach. Po­li­tik und Me­di­en wer­den von den Tech Bros und ih­ren Hand­lan­gern mit an­de­ren Din­gen in Atem ge­hal­ten: Mi­li­tär schießt im In­land auf Men­schen, das droht in den USA. Ein Haus­halt, der den Ärm­sten den Zu­gang zu Ge­sund­heit und Le­bens­mit­teln er­schwert? Auch dort­selbst.

Ver­schie­bun­gen
Hier las­sen wir Rechts­extre­me in den Par­la­men­ten ge­wäh­ren. Wo bleibt das vom Grund­ge­setz vor­ge­se­he­ne Ver­bot? Die Mit­tel­schicht ver­schwin­det, die Ärms­ten wer­den noch är­mer. Was ist mit Steuer­flucht, Cum-Cum und Cum-Ex? Die For­de­rung, Ver­mö­gens­steu­ern wie zu Hel­mut Kohls Zeiten wie­der ein­zu­füh­ren, gilt mitt­ler­weile als links­extrem.

Re­gie­ren mit Zah­len
Sind die weni­gen Total­ver­wei­ge­rer wirk­lich das Prob­lem unse­rer Sozial­kassen? Oder wer­den der­zeit nicht eher die gut in­te­grier­ten Ge­flüch­te­ten mit un­ge­klär­tem Sta­tus ab­ge­scho­ben, weil sie im Ge­gen­satz zu Un­ter­ge­tauch­ten über­haupt greif­bar sind? In einer Gesell­schaft, in der Statis­ti­ken das Maß aller Din­ge sind, be­stim­men Zah­len den Wahl­kampf, auch wenn dieser ei­gent­lich längst vor­bei ist.

Nehmt doch lie­ber für Eure Nach­rich­ten die Wahr­schein­lich­keit, mit der die KI aus dem Ru­der zu lau­fen und am En­de uns den Ste­cker zu zie­hen droht. (Aus Sicht der KI übrigens logisch: Wir sind schließ­lich die größte Bedro­hung für das Gleich­ge­wicht der Na­tur auf die­sem Pla­ne­ten.)

Die KI ge­fähr­det schon jetzt die De­mo­kra­tie
Schon jetzt hat KI große Ein­falls­tore zur Kon­trolle und Mani­pu­la­tion zwi­schen­mensch­li­cher Kom­mu­ni­ka­tion ge­schaf­fen. Begriffe kön­nen ver­bo­ten oder gezielt umge­deu­tet wer­den, ein Werk­zeug zur Steue­rung der „Sub­jekte“ (also uns), durch das, was uns über­haupt noch er­reicht. Mo­ment, das klingt doch sehr be­kannt? Es ist längst Rea­li­tät! Wir könn­ten gelis­tet, un­sere Iden­ti­tät „ge­sperrt“ wer­den, wenn's in die fal­schen Hän­de gerät. Oder ist es dort schon längst?

Wer den vol­len Deep­Mind-Be­richt lesen möch­te (Ach­tung, nichts für schwa­che Ner­ven!): An Approach to Technical AGI Safety / DeepMind (PDF).

Schluss­no­tiz
Wer offe­nen Auges in den Ab­grund schaut, und das soll­ten wir, braucht be­wuss­ten Aus­gleich, um nicht hand­lungs­un­fä­hig zu wer­den: Mit­men­schen, gutes Es­sen, Na­tur, Kul­tur, Hob­bies.
Passt gut auf Euch auf!

______________________________
Gra­fik: Pixlr.com, von mir er­gänzt