Was ist das Problem? Künstliche „Intelligenz“ oder menschliche Skrupellosigkeit?

 Ist KI eigentlich nützlich oder nicht nützlich? (Und: ist diese Frage eigentlich sinnvoll oder Unsinn?)

Die Frage, so ganz undifferenziert, ist natürlich Unsinn. Gleichzeitig ist sie aber sehr wichtig, weil so viele Fantasien im Umlauf sind, welche Probleme alle mit „der KI“ zu lösen wären. Am 24. Juli 2024 ging eine Meldung durch die Presse, dass Bayerns Digitalminister Dr. Fabian Mehring (Jurist und Politologe) die Meinung vertrat, dass man unter anderem mit KI „den künftigen Ruhestand der Babyboomer-Generation und den dadurch entstehenden Fachkräftemangel … kompensieren“ könne.

Die öffentliche Verwaltung hat das Problem, dass sie kein Geld hat, im Vergleich niedrige Gehälter zahlt und gerade junge Kräfte ihr nach ein, zwei Jahren wieder weglaufen, weil die hierarchischen Verhältnisse für viele unerträglich sind. Da liegt es doch nahe, dass einem Minister der Sirenengesang der Big Tech aus dem Silicon Valley: „Unsere Softwares lösen alle Probleme der Welt!“ ungeheuer erleichternd erscheint: wir stellen KI-Bots ein, die arbeiten klaglos und stellen keine Forderungen. 

Schauen wir mal, was der Einsatz von KI – hier am Beispiel der öffentlichen Verwaltung - bedeuten könnte. Und das anhand von zwei Beispielen.

Beispiel 1: Einsatz in der Justizverwaltung der USA

In den USA ist seit Beginn der Nullerjahre ein Algorithmus namens COMPAS im Einsatz, ein Fallmanagement Programm (Correctional Offender Management Profiling for Alternative Sanctions). Es soll Strafverfolgern und Gerichten die Arbeit erleichtern, indem es das Risiko einzuschätzen versprach, mit dem ein Häftling nach seiner Freilassung rückfällig würde. „Gemeinsam bringen wir die Gerechtigkeit voran“, lautet der Werbeslogan.

In einem aktuellen DLF-Podcast wurde ein konkreter Fall geschildert. “Der Fall Glenn Rodriguez, 1990 verurteilt wegen Mordes 2. Grades im Bundesstaat New York. Er hatte in einer Gang eine Autohandlung überfallen, ein Mensch war gestorben.

Rodriguez war ein Musterhäftling, machte einen Collegekurs, engagierte sich als Freiwilliger. Draußen warteten ein Job und eine Bleibe auf ihn. COMPAS sagte weiterhin ‚hohes Rückfallrisiko‘. 2016 stand er vor einem Bewährungsausschuss, der senkte die Daumen, keine Entlassung.“

Und das ist der Normalfall. Bewährungsausschüsse entscheiden fast nie gegen die COMPAS-Vorgaben. Denn wenn sie für eine Freilassung stimmen und der Häftling wird doch später rückfällig, könnten sie verantwortlich gemacht werden. Also bleiben sie lieber auf der sicheren Seite.

In diesem Falle war es anders. DLF: „Rodriguez hatte Glück. Im Jahr darauf konnte er den Ausschuss überzeugen, dass mit seinem Risikowert etwas faul war. Ein Beamter hatte ein falsches Kästchen angekreuzt.“

Aber dass dieser Nachweis gelang, war ein sehr seltener Zufall. Er war nur möglich, weil es sich um einen Algorithmus handelte. Algorithmen sind – oft sehr komplizierte – Entscheidungsbäume, bei denen eine Ursache-Wirkungskette von Menschen noch nachvollzogen werden kann (in diesem Fall von Rodriguez‘ Anwalt). In unserem Beispiel „falsches Kreuz in Kästchen 25“ führt zu „negative Beurteilung“.

Beispiel 2: Eine Verurteilung in Frankreich

Ein Fall, in dem diese Nachvollziehbarkeit nicht mehr galt, stammt aus Frankreich. Vor ein paar Jahren wurde ein Mann einer Straftat angeklagt. Die Staatsanwaltschaft hatte als einziges Beweismittel ein unscharfes Foto aus einer Überwachungskamera am Tatort, auf dem eine Gesichtserkennungs-KI den Angeklagten erkennen wollte. Der Anwalt des Angeklagten fand, das Foto zeige seinen Mandanten überhaupt nicht zweifelsfrei. Er wollte Informationen über die Gründe erhalten, wegen der die KI zu ihrer Erkenntnis gekommen war – aber die Herstellerfirma verweigerte die Auskunft. Sie verwies auf ihr Geschäftsgeheimnis. Aber der Richter als Jurist vertraute der KI ohne einen Zweifel, sah in den Einwänden des Anwalts nur Ausflüchte und verurteilte den Beschuldigten.

Es hätte dem Anwalt vermutlich nicht viel geholfen, wenn die Firma ihm Auskunft gegeben hätte. Denn auch eine Offenlegung der Trainingsmethoden erlaubt es nicht, die KI nach ihren Entscheidungsgründen zu fragen. Das betrifft alle KI-Varianten, die auf der Methode der Neuronalen Netze beruhen: Erstens Programme der Mustererkennung und zweitens solche aus der Sparte „LLM“ (Large Language Models), die angeblich menschliche Sprache „verstehen“ und menschlich anmutende Texte generieren. Neuronale Netze, die mit großen Mengen von Daten trainiert werden, generieren so komplexe interne Strukturen, dass niemand mehr die Ursachen für Entscheidungen nachvollziehen kann. „Komplex“ bedeutet: es gibt den „Schmetterlingseffekt“. Ein paar geänderte Pixel in einem Bild, und die KI erkennt nicht mehr das Auto darauf, sondern tippt auf „Katze“. (Wer sich mit der Funktionsweise der neuronalen Netze vertraut machen will, dem sei das superspannende Buch empfohlen von Katharina Zweig: Die KI war's! Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz, Wilhelm Heyne Verlag, 2023. 319 Seiten.)

Prinzipielle Schranken der Transparenz

Im DLF-Podcast wird Ulrike Luxburg zitiert, Professorin in Tübingen und Sprecherin des Exzellenzclusters „Maschinelles Lernen in den Wissenschaften“. Sie wird ganz kategorisch: Wenn wir ein neuronales Netz trainierten, um den Schulerfolg eines Kindes vorauszusagen, werde das nie nachvollziehbar sein. Wer Transparenz über den Einfluss von Entscheidungsgründe wolle, der müsse sich mit Algorithmen begnügen. Wenn ich z.B. eine Prognose über den Schulerfolg aufgrund von 20 Faktoren machen wolle, könne man mit einem Entscheidungsbaum schon sehr gute Ergebnisse erzielen. Und der Einfluss jedes Faktors sei dann auch für Menschen nachprüfbar.

Das Problem der KI ist nicht die KI

KI kann sehr nützlich sein. Wenn die KI einen literarischen Text für mich produziert, dann entscheide ich darüber, ob ich ihn gut finde oder verbesserungswürdig (den vorliegenden finde ich z.B. ganz okay). Wenn der Arzt die KI-Bilder von Darmwänden nach Tumoren durchsuchen lässt, dann wird er jeden Hinweis des Tools durch eine Biopsie überprüfen lassen. Solche Anwendungen sind extrem hilfreich.

Odysseus ließ sich an den Mast seines Schiffes fesseln, um sich selbst daran zu hindern, den Verlockungen von Lust und Gier nachzugeben. Der Mythos symbolisiert das Festhalten an Werten gegenüber dem Eigeninteresse.

Das Problem der KI-Anwendung beginnt, wenn Menschen mit politischer oder ökonomischer Macht bereit sind, künstliche Intelligenz auch dort zu installieren, wo ihre Anwendung im Fehlerfall zwar menschliche Existenzen vernichten kann, aber sie selbst einen Nutzen davon haben. Den Bewährungskommissionen in den USA verspricht COMPAS einen Ausweg aus ihrer Arbeitsüberlastung. Für den Richter in Lyon war die Identifikation eines Menschen als Täter durch die KI vielleicht die Bestätigung eines Vorurteils gegenüber Vorbestraften oder Migranten. Digitalminister Mehring in Bayern erhofft sich einen Ausweg aus der unlösbaren Zwickmühle aus zerrütteten öffentlichen Finanzen und steigenden Leistungsanforderungen vor allem im Kommunalbereich.

Das technizistische Denken (engl. solutionism) sieht alle Probleme mit technischen Mitteln lösbar. Moralische Fragen, die von keiner bislang verfügbaren Software auch nur „verstanden“, geschweige denn prozessiert werden können, werden nicht nur ignoriert, sondern einfach ausgeblendet. Gerade uns als technisch affinen Menschen tut es in der Seele weh, wenn wir die Anwendungsfelder toller Tools begrenzen sollen. Das ist die schiefe Bahn, auf die wir uns selber locken.