Direkt zum Hauptbereich

Was ist das Problem? Künstliche „Intelligenz“ oder menschliche Skrupellosigkeit?

 Ist KI eigentlich nützlich oder nicht nützlich? (Und: ist diese Frage eigentlich sinnvoll oder Unsinn?)

Die Frage, so ganz undifferenziert, ist natürlich Unsinn. Gleichzeitig ist sie aber sehr wichtig, weil so viele Fantasien im Umlauf sind, welche Probleme alle mit „der KI“ zu lösen wären. Am 24. Juli 2024 ging eine Meldung durch die Presse, dass Bayerns Digitalminister Dr. Fabian Mehring (Jurist und Politologe) die Meinung vertrat, dass man unter anderem mit KI „den künftigen Ruhestand der Babyboomer-Generation und den dadurch entstehenden Fachkräftemangel … kompensieren“ könne.

Die öffentliche Verwaltung hat das Problem, dass sie kein Geld hat, im Vergleich niedrige Gehälter zahlt und gerade junge Kräfte ihr nach ein, zwei Jahren wieder weglaufen, weil die hierarchischen Verhältnisse für viele unerträglich sind. Da liegt es doch nahe, dass einem Minister der Sirenengesang der Big Tech aus dem Silicon Valley: „Unsere Softwares lösen alle Probleme der Welt!“ ungeheuer erleichternd erscheint: wir stellen KI-Bots ein, die arbeiten klaglos und stellen keine Forderungen. 
Schauen wir mal, was der Einsatz von KI – hier am Beispiel der öffentlichen Verwaltung - bedeuten könnte. Und das anhand von zwei Beispielen.

Beispiel 1: Einsatz in der Justizverwaltung der USA

In den USA ist seit Beginn der Nullerjahre ein Algorithmus namens COMPAS im Einsatz, ein Fallmanagement Programm (Correctional Offender Management Profiling for Alternative Sanctions). Es soll Strafverfolgern und Gerichten die Arbeit erleichtern, indem es das Risiko einzuschätzen versprach, mit dem ein Häftling nach seiner Freilassung rückfällig würde. „Gemeinsam bringen wir die Gerechtigkeit voran“, lautet der Werbeslogan.

In einem aktuellen DLF-Podcast wurde ein konkreter Fall geschildert. “Der Fall Glenn Rodriguez, 1990 verurteilt wegen Mordes 2. Grades im Bundesstaat New York. Er hatte in einer Gang eine Autohandlung überfallen, ein Mensch war gestorben.
Rodriguez war ein Musterhäftling, machte einen Collegekurs, engagierte sich als Freiwilliger. Draußen warteten ein Job und eine Bleibe auf ihn. COMPAS sagte weiterhin ‚hohes Rückfallrisiko‘. 2016 stand er vor einem Bewährungsausschuss, der senkte die Daumen, keine Entlassung.“

Und das ist der Normalfall. Bewährungsausschüsse entscheiden fast nie gegen die COMPAS-Vorgaben. Denn wenn sie für eine Freilassung stimmen und der Häftling wird doch später rückfällig, könnten sie verantwortlich gemacht werden. Also bleiben sie lieber auf der sicheren Seite.
In diesem Falle war es anders. DLF: „Rodriguez hatte Glück. Im Jahr darauf konnte er den Ausschuss überzeugen, dass mit seinem Risikowert etwas faul war. Ein Beamter hatte ein falsches Kästchen angekreuzt.“
Aber dass dieser Nachweis gelang, war ein sehr seltener Zufall. Er war nur möglich, weil es sich um einen Algorithmus handelte. Algorithmen sind – oft sehr komplizierte – Entscheidungsbäume, bei denen eine Ursache-Wirkungskette von Menschen noch nachvollzogen werden kann (in diesem Fall von Rodriguez‘ Anwalt). In unserem Beispiel „falsches Kreuz in Kästchen 25“ führt zu „negative Beurteilung“.

Beispiel 2: Eine Verurteilung in Frankreich

Ein Fall, in dem diese Nachvollziehbarkeit nicht mehr galt, stammt aus Frankreich. Vor ein paar Jahren wurde ein Mann einer Straftat angeklagt. Die Staatsanwaltschaft hatte als einziges Beweismittel ein unscharfes Foto aus einer Überwachungskamera am Tatort, auf dem eine Gesichtserkennungs-KI den Angeklagten erkennen wollte. Der Anwalt des Angeklagten fand, das Foto zeige seinen Mandanten überhaupt nicht zweifelsfrei. Er wollte Informationen über die Gründe erhalten, wegen der die KI zu ihrer Erkenntnis gekommen war – aber die Herstellerfirma verweigerte die Auskunft. Sie verwies auf ihr Geschäftsgeheimnis. Aber der Richter als Jurist vertraute der KI ohne einen Zweifel, sah in den Einwänden des Anwalts nur Ausflüchte und verurteilte den Beschuldigten.

Es hätte dem Anwalt vermutlich nicht viel geholfen, wenn die Firma ihm Auskunft gegeben hätte. Denn auch eine Offenlegung der Trainingsmethoden erlaubt es nicht, die KI nach ihren Entscheidungsgründen zu fragen. Das betrifft alle KI-Varianten, die auf der Methode der Neuronalen Netze beruhen: Erstens Programme der Mustererkennung und zweitens solche aus der Sparte „LLM“ (Large Language Models), die angeblich menschliche Sprache „verstehen“ und menschlich anmutende Texte generieren. Neuronale Netze, die mit großen Mengen von Daten trainiert werden, generieren so komplexe interne Strukturen, dass niemand mehr die Ursachen für Entscheidungen nachvollziehen kann. „Komplex“ bedeutet: es gibt den „Schmetterlingseffekt“. Ein paar geänderte Pixel in einem Bild, und die KI erkennt nicht mehr das Auto darauf, sondern tippt auf „Katze“. (Wer sich mit der Funktionsweise der neuronalen Netze vertraut machen will, dem sei das superspannende Buch empfohlen von Katharina Zweig: Die KI war's! Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz, Wilhelm Heyne Verlag, 2023. 319 Seiten.)

Prinzipielle Schranken der Transparenz

Im DLF-Podcast wird Ulrike Luxburg zitiert, Professorin in Tübingen und Sprecherin des Exzellenzclusters „Maschinelles Lernen in den Wissenschaften“. Sie wird ganz kategorisch: Wenn wir ein neuronales Netz trainierten, um den Schulerfolg eines Kindes vorauszusagen, werde das nie nachvollziehbar sein. Wer Transparenz über den Einfluss von Entscheidungsgründe wolle, der müsse sich mit Algorithmen begnügen. Wenn ich z.B. eine Prognose über den Schulerfolg aufgrund von 20 Faktoren machen wolle, könne man mit einem Entscheidungsbaum schon sehr gute Ergebnisse erzielen. Und der Einfluss jedes Faktors sei dann auch für Menschen nachprüfbar.

Das Problem der KI ist nicht die KI

KI kann sehr nützlich sein. Wenn die KI einen literarischen Text für mich produziert, dann entscheide ich darüber, ob ich ihn gut finde oder verbesserungswürdig (den vorliegenden finde ich z.B. ganz okay). Wenn der Arzt die KI-Bilder von Darmwänden nach Tumoren durchsuchen lässt, dann wird er jeden Hinweis des Tools durch eine Biopsie überprüfen lassen. Solche Anwendungen sind extrem hilfreich.

Odysseus ließ sich an den Mast seines Schiffes fesseln, um sich selbst daran zu hindern, den Verlockungen von Lust und Gier nachzugeben. Der Mythos symbolisiert das Festhalten an Werten gegenüber dem Eigeninteresse.

Das Problem der KI-Anwendung beginnt, wenn Menschen mit politischer oder ökonomischer Macht bereit sind, künstliche Intelligenz auch dort zu installieren, wo ihre Anwendung im Fehlerfall zwar menschliche Existenzen vernichten kann, aber sie selbst einen Nutzen davon haben. Den Bewährungskommissionen in den USA verspricht COMPAS einen Ausweg aus ihrer Arbeitsüberlastung. Für den Richter in Lyon war die Identifikation eines Menschen als Täter durch die KI vielleicht die Bestätigung eines Vorurteils gegenüber Vorbestraften oder Migranten. Digitalminister Mehring in Bayern erhofft sich einen Ausweg aus der unlösbaren Zwickmühle aus zerrütteten öffentlichen Finanzen und steigenden Leistungsanforderungen vor allem im Kommunalbereich.

Das technizistische Denken (engl. solutionism) sieht alle Probleme mit technischen Mitteln lösbar. Moralische Fragen, die von keiner bislang verfügbaren Software auch nur „verstanden“, geschweige denn prozessiert werden können, werden nicht nur ignoriert, sondern einfach ausgeblendet. Gerade uns als technisch affinen Menschen tut es in der Seele weh, wenn wir die Anwendungsfelder toller Tools begrenzen sollen. Das ist die schiefe Bahn, auf die wir uns selber locken.








Kommentare

Beliebte Posts aus diesem Blog

Wie lassen sich Ergebnisse definieren? - Drei Beispiele (WBS, CBP und BDN)

Ich habe schon darüber geschrieben, warum das Definieren von Ergebnissen so wichtig ist. Es lenkt die Aufmerksamkeit des Projektteams auf die eigentlichen Ziele. Aber was sind eigentlich Projektergebnisse? In diesem Beitrag stelle ich drei Methoden vor, um leichter an Ergebnisse zu kommen.

Microsoft Teams: Die neuen Besprechungsnotizen - Loop-Komponenten

  Haben Sie in letzter Zeit in einer Teams-Besprechung die Notizen geöffnet? Dort sind inzwischen die Loop-Komponenten hinterlegt. Die sind zwar etwas nützlicher als das, was zuvor zur Verfügung stand. Trotzdem ist noch Luft nach oben. Und es gibt sogar einige ernstzunehmende Stolperfallen. Hier ein erster, kritischer Blick auf das was Sie damit tun können. Und auch darauf, was Sie besser sein lassen.

Microsoft Copilot - Notebook, Pages, Agents und mehr

Es tut sich sehr viel an der Copilot Front. Gefühlt entwickelt Microsoft mit aller Kraft die KI-Anwendung weiter. Mit dem letzten Update hat sich die Microsoft-Startseite stark verändert. Hier zeige ich, was sich hinter all den Begrifflichkeiten verbirgt und was davon alltagstauglich ist.

Erfahrung mit Vibe-Coding - und warum das keine Teamprobleme löst

Die KI-Werkzeuge zum Erstellen von Werkzeugen für die tägliche Arbeit werden immer besser. Die selbstgestrickten Tools erleichtern die eigene Arbeit. Aber für den Einsatz im Team fehlt noch etwas.

Schätzungen sind schätzungsweise überschätzte Schätze

"Wer viel misst, misst viel Mist." Zumindest ist diese Gefahr gegeben. Entweder misst man z. B. Mist, weil man zu früh zu KPIs zur Messung von Ergebnissen greift, oder aber man greift zu den falschen KPIs, die gar nicht das messen, was man wissen möchte. Einst war agiles Arbeiten der alternative Ansatz, aber inzwischen gibt es auch für einige Details dessen, was in Konzernen als "agil" praktiziert wird, einleuchtende alternative Ideen, die bis heute noch nicht so richtig auf die große Bühne vorgedrungen zu sein scheinen. 

Wenn Leisten Leistung kostet

Immer. Immer "on". Immer mehr. Immer schneller. Und natürlich: Immer besser. Das ist die Welt, in der wir heute leben. Eine Welt der Dauerleistung. Und die hat ihren Preis: Wir werden schwächer. Sofern wir nicht die Grundlagen guten (Selbst-)Managements beherzigen und Pausen machen. Also zur richten Zeit das wirklich Wichtige tun.

A shared file storage is not a library

In over 90% of cases where we advise organizations on filing systems, we find that they are organized by topic. This system quickly leads to chaos because outdated documents are not disposed of quickly enough. So why does everyone think to structure their filing system by topic? I believe we have the wrong idea.

From False Starts to Precision Landing: The Evolution of Requirements Management

Requirements management originated in U.S. rocket programs between 1945 and 1970. A small management trick contributed to the success of the Apollo program.

Wenn es mal gerade etwas schwierig bei Kund:innen wird… Zwei Fragen, die uns helfen, unsere Strategie mit unseren Kund:innen abzusprechen.

Seit 2024 organisieren Bob Galen und ich eine Masterclass für agile Coaches. Wir möchten die Ausbildung von agilen Coaches verbessern und ihnen Techniken mitgeben, mit denen sie bei ihren Kund:innen etwas einfacher haben. Bisher haben wir in vier Durchgängen mit jeweils 14 Modulen ungefähr 70 Extraordinarily Badass Agile Coaches ausgebildet (/1/). In diesem Blogpost möchte ich ein paar Erfahrungen und simple Techniken aus der Masterclass teilen, wie wir unsere Strategie besser abstimmen können. Sie beschränken sich nicht auf agiles Coaching – das ist nur das Setting.

Wie läuft ein Projekt zum Entwickeln von Szenarien ab?

Seit 2016 beschäftigen Edgar und ich uns intensiv mit der Szenariotechnik. Szenarien sind ein wirkungsvolles Werkzeug, um Projekte oder ganze Geschäftsmodelle auf ihre Zukunftstauglichkeit zu testen.