Soll die Maschine der bessere Mensch werden?

Künstliche Intelligenz soll fair sein.

Sie soll Menschen nicht aufgrund ihres Alters, Geschlechts, ihrer Herkunft, einer Behinderung oder ihrer wirtschaftlichen Situation benachteiligen. Sie soll transparent, nachvollziehbar und möglichst frei von diskriminierenden Verzerrungen entscheiden.

Das klingt selbstverständlich richtig.

Trotzdem steckt darin ein gewaltiger Widerspruch:

Wir verlangen von Maschinen eine Form von Fairness, die wir in unseren eigenen Unternehmen, Institutionen und Gesellschaften häufig selbst nicht gewährleisten.

Wir auditieren Algorithmen, erstellen Fairness-Richtlinien und diskutieren über verantwortungsvolle KI. Gleichzeitig werden Menschen in realen Bewerbungsprozessen wegen ihres Alters still aussortiert. Patienten erhalten je nach Herkunft, Einkommen oder Wohnort nicht dieselben Chancen. Und Unternehmen erklären öffentlich ihre Prinzipientreue, während ihre gesamte technische Infrastruktur von Plattformen abhängt, deren Datenflüsse sie selbst kaum vollständig überblicken.

Die unangenehme Frage lautet deshalb:

Soll KI tatsächlich fairer werden als die Gesellschaft, die sie entwickelt und einsetzt?

Oder benutzen wir die Maschine teilweise als Projektionsfläche, damit wir über unsere eigenen Strukturen nicht sprechen müssen?

Bias ist real – aber er beginnt nicht erst bei der KI

Der Begriff Bias beschreibt systematische Verzerrungen, durch die bestimmte Gruppen schlechter, anders oder ungenauer behandelt werden.

Solche Verzerrungen können in einem KI-System an vielen Stellen entstehen:

durch unausgewogene Trainingsdaten,

durch falsche oder unvollständige Messwerte,

durch ungeeignete Zielgrößen,

durch menschliche Bewertungen,

durch technische Schwellenwerte,

oder durch den Prozess, in den das System eingebaut wird.

Der entscheidende Punkt ist jedoch: Viele dieser Verzerrungen werden nicht von der KI erfunden.

Sie stammen aus der Welt, deren Daten wir der KI geben.

Wenn Menschen in der Vergangenheit bei Einstellungen bevorzugt oder benachteiligt wurden, finden sich diese Entscheidungen in historischen Personaldaten wieder.

Wenn bestimmte Bevölkerungsgruppen medizinisch schlechter versorgt wurden, spiegeln Gesundheitsdaten auch diese ungleiche Versorgung wider.

Wenn wirtschaftlicher Erfolg als indirekter Maßstab für Gesundheit, Eignung oder Zuverlässigkeit verwendet wird, übernimmt das Modell eine gesellschaftliche Ungleichheit als scheinbar neutrale Zahl.

Die KI lernt dann nicht die Welt, wie sie sein sollte.

Sie lernt die Welt, wie wir sie dokumentiert haben.

Das Beispiel Recruiting: Mit 50 beginnt für viele die unsichtbare Wand

Kaum ein Bereich macht diesen Widerspruch deutlicher als der Arbeitsmarkt.

Offiziell zählt Berufserfahrung. Unternehmen sprechen von Vielfalt, Inklusion und dem Wert unterschiedlicher Perspektiven. Gleichzeitig erleben viele Menschen spätestens ab 50, wie ihre Chancen auf Einladungen deutlich sinken.

Die Diskriminierung erfolgt selten offen.

In einer Absage steht nicht:

„Sie sind uns zu alt.“

Stattdessen heißt es, ein anderer Kandidat passe noch etwas besser zum Profil. Häufig gibt es überhaupt keine persönliche Antwort.

Die OECD weist darauf hin, dass die Einstellungsraten mit zunehmendem Alter deutlich sinken. Gleichzeitig können bereits Formulierungen in Stellenanzeigen ältere Menschen abschrecken oder mit tatsächlicher Altersdiskriminierung zusammenhängen.

Das ist kein Randproblem.

Europa altert. Unternehmen klagen über Fachkräftemangel. Menschen sollen länger arbeiten. Gleichzeitig erschweren wir ausgerechnet erfahrenen Beschäftigten den beruflichen Neustart.

Und nun kommt KI in diesen bereits verzerrten Prozess.

Das System soll fairer auswählen als der Mensch. Es soll Alter nicht als unzulässiges Kriterium verwenden und keine historischen Vorurteile reproduzieren.

Aber was geschieht, wenn das Unternehmen selbst weiterhin einen „dynamischen Cultural Fit“, vermeintlich günstigere jüngere Beschäftigte oder lückenlose digitale Lebensläufe bevorzugt?

Dann kann das Alter aus dem Datensatz entfernt werden – und trotzdem über Ersatzmerkmale zurückkehren:

über Abschlussjahre,

Berufserfahrung,

frühere Positionen,

Gehaltsvorstellungen,

Wortwahl,

Karriereunterbrechungen,

oder bestimmte technische Qualifikationen.

Ein System kann formal altersblind sein und faktisch dennoch ältere Bewerber benachteiligen.

Ein fairer Algorithmus in einem unfairen Prozess bleibt unfair

Genau hier liegt die Schwäche vieler Fairness-Debatten.

Wir konzentrieren uns auf das Modell, obwohl das Modell nur ein Teil des gesamten Entscheidungssystems ist.

Ein Recruiting-Algorithmus kann statistisch ausgeglichene Ergebnisse liefern und trotzdem in einen problematischen Prozess eingebettet sein.

Vielleicht erreicht das System für unterschiedliche Gruppen dieselbe Auswahlquote. Doch welche Stellen werden diesen Personen überhaupt empfohlen? Welche Daten fließen ein? Wer definiert, was ein „guter Kandidat“ ist? Und welche Menschen haben den Bewerbungsprozess bereits verlassen, bevor die KI sie jemals bewerten konnte?

Aktuelle Forschung zeigt sogar, dass verbreitete technische Fairnessmaßnahmen auf vorhandenen Trainingsdaten gut aussehen können, ihre Wirkung unter realen Bedingungen aber verfehlen. Ein System kann im Labor „fairer“ erscheinen und in der praktischen Anwendung trotzdem diskriminierende Ergebnisse erzeugen.

Fairness ist deshalb keine einzelne Kennzahl.

Sie ist eine Eigenschaft des gesamten Systems – von der Stellenausschreibung bis zur endgültigen Entscheidung.

Warum wir Audits trotzdem dringend brauchen

Aus diesem Widerspruch folgt nicht, dass Bias-Prüfungen, Audits oder der EU AI Act unnötig wären.

Das Gegenteil ist der Fall.

Menschliche Vorurteile sind schlimm genug. Werden sie durch automatisierte Systeme skaliert, können sie in kürzester Zeit Tausende oder Millionen Menschen betreffen.

Ein einzelner Personalverantwortlicher kann einige Bewerbungen unfair beurteilen.

Ein automatisiertes Auswahlverfahren kann dieselbe Verzerrung in Sekunden auf einen gesamten Bewerberpool anwenden.

Die Automatisierung verändert daher die Größenordnung des Problems.

Hinzu kommt die Unsichtbarkeit.

Ein Mensch kann bemerken, dass ein Gesprächspartner voreingenommen reagiert. Bei einem algorithmischen Score weiß ein Bewerber meist nicht, warum er aussortiert wurde, welche Daten verwendet wurden oder ob eine falsche Annahme entscheidend war.

Genau deshalb stuft der EU AI Act bestimmte KI-Systeme im Recruiting und Personalmanagement als Hochrisiko-Anwendungen ein. Für solche Systeme sind unter anderem Risikomanagement, geeignete Daten, Dokumentation, menschliche Aufsicht und Informationen für betroffene Personen vorgesehen.

Diese Regeln sind sinnvoll.

Aber sie dürfen nicht zur Illusion führen, dass ein formal korrekt dokumentiertes System automatisch gerecht ist.

Auditierbare Heuchelei bleibt Heuchelei

Das eigentliche Problem beginnt dort, wo Governance nur noch zur Außendarstellung wird.

Dann entstehen Richtlinien, Verhaltenskodizes und Auditberichte, während sich an den realen Entscheidungen kaum etwas ändert.

Das Unternehmen kann anschließend erklären:

Der Algorithmus wurde geprüft.

Die Daten wurden dokumentiert.

Ein Mensch behält die letzte Entscheidung.

Damit sieht der Prozess auf dem Papier sauber aus.

Doch was, wenn der Mensch die KI-Empfehlung fast immer ungeprüft übernimmt?

Was, wenn die Zielvorgabe des Systems bereits problematisch ist?

Was, wenn das Unternehmen Menschen mit ungewöhnlichen Lebensläufen grundsätzlich als Risiko betrachtet?

Was, wenn ein Bewerber zwar formal nicht wegen seines Alters, aber wegen indirekt damit verbundener Merkmale abgewertet wird?

Dann haben wir keine faire Entscheidung geschaffen.

Wir haben lediglich eine unfair gebliebene Entscheidung besser dokumentiert.

Auch Menschen sind eine Black Box

In der KI-Debatte wird häufig kritisiert, dass komplexe Modelle eine Black Box seien. Man könne nicht immer vollständig erklären, warum ein System zu einem bestimmten Ergebnis kommt.

Diese Kritik ist berechtigt.

Doch auch menschliche Entscheidungen sind keineswegs transparent.

Ein Recruiter kann häufig selbst nicht exakt erklären, warum ihm ein Kandidat „irgendwie passender“ erscheint. Ärzte, Richter, Kreditentscheider und Führungskräfte sind ebenfalls anfällig für Intuition, Müdigkeit, Vorurteile, Gruppendenken und persönliche Erfahrungen.

Der Unterschied ist nicht, dass Menschen transparent und Maschinen undurchsichtig wären.

Der Unterschied ist, dass wir bei Maschinen erstmals versuchen, Entscheidungen systematisch zu messen, zu protokollieren und zu vergleichen.

Das ist eine große Chance.

Ein algorithmisches System kann getestet werden. Ergebnisse können nach Gruppen ausgewertet werden. Schwellenwerte lassen sich verändern. Fehler können reproduziert werden.

Bei einem Menschen ist das erheblich schwieriger.

KI kann deshalb durchaus fairer entscheiden als ein einzelner Mensch.

Aber nur, wenn wir die richtigen Fragen stellen und nicht ausschließlich prüfen, ob ein technischer Grenzwert eingehalten wurde.

Fairness bedeutet nicht, dass alle gleich behandelt werden

Auch der Begriff Fairness selbst ist schwieriger, als er in vielen Kursen dargestellt wird.

Eine häufige Vorstellung lautet, ein faires System müsse alle Menschen identisch behandeln.

Doch identische Behandlung kann unfair sein, wenn die Ausgangsbedingungen unterschiedlich sind.

Ein einfaches Beispiel:

Wenn ein Bewerber wegen einer Behinderung bestimmte Aufgaben anders erledigt, kann eine starre Gleichbehandlung ihn benachteiligen. Faire Behandlung kann dann bedeuten, geeignete Anpassungen vorzunehmen.

Auch statistische Fairnessbegriffe können miteinander kollidieren.

Ein System kann für verschiedene Gruppen dieselbe Auswahlquote erreichen, aber unterschiedlich viele geeignete Personen übersehen.

Es kann in allen Gruppen dieselbe Fehlerquote besitzen, aber trotzdem sehr unterschiedliche Folgen erzeugen.

Es kann einzelne Personen korrekt bewerten und auf Gruppenebene dennoch problematische Muster zeigen.

Es existiert daher nicht die eine mathematische Fairnessformel, die jeden Konflikt auflöst.

Fairness ist immer auch eine normative Entscheidung:

Welche Fehler halten wir für besonders schwerwiegend?

Welche Unterschiede sind sachlich gerechtfertigt?

Welche Nachteile sind gesellschaftlich nicht akzeptabel?

Wer trägt das Risiko einer falschen Entscheidung?

Diese Fragen kann kein Modell allein beantworten.

Sie müssen von Menschen und Institutionen verantwortet werden.

Medizin: Wenn gesellschaftliche Ungleichheit zur Zielvariable wird

Auch in der Medizin zeigt sich, wie schnell bestehende Ungleichheiten durch Daten weitergegeben werden können.

Ein bekanntes Problem entsteht, wenn Behandlungskosten als Ersatzwert für den tatsächlichen Gesundheitsbedarf verwendet werden.

Auf den ersten Blick klingt das plausibel: Wer höhere Kosten verursacht, benötigt vermutlich mehr medizinische Versorgung.

Doch Menschen aus ärmeren oder schlechter versorgten Regionen verursachen möglicherweise niedrigere Kosten, weil sie seltener Zugang zu Ärzten, Untersuchungen und Therapien haben.

Das System kann daraus fälschlich schließen, sie seien gesünder.

Die Ungleichheit liegt hier nicht erst im Algorithmus.

Sie liegt in der Versorgung.

Der Algorithmus macht aus dieser Ungleichheit jedoch eine skalierbare Entscheidung.

Neuere Forschung zu biomedizinischen KI-Systemen zeigt außerdem, dass viele zugrunde liegende Datensätze bestimmte Abstammungsgruppen überrepräsentieren. Werden solche Daten für breit eingesetzte Basismodelle verwendet, können Verzerrungen über viele nachgelagerte Anwendungen weitergegeben werden.

Auch hier reicht es nicht, am Ende einen Fairness-Score zu berechnen.

Wir müssen fragen:

Wer wurde überhaupt untersucht?

Welche Daten fehlen?

Welche Gruppen hatten Zugang zur Versorgung?

Welche gesellschaftliche Realität wurde als medizinische Wahrheit abgespeichert?

Kann KI die Gesellschaft korrigieren?

Hier kommen wir zur schwierigsten Frage.

Sollen wir einer KI beibringen, die bestehende Welt abzubilden?

Oder soll sie Entscheidungen treffen, wie die Welt gerechter sein könnte?

Wenn sie ausschließlich historische Realität lernt, reproduziert sie bestehende Ungleichheiten.

Wenn wir sie bewusst davon entfernen, treffen wir normative Entscheidungen darüber, was als gerechter gelten soll.

Dann ist die KI nicht mehr nur ein neutrales Werkzeug.

Sie wird zum Instrument gesellschaftlicher Gestaltung.

Das muss nicht falsch sein.

Gesetze, Institutionen und Sozialpolitik tun ebenfalls nichts anderes. Auch sie korrigieren bewusst Marktmechanismen oder historische Benachteiligungen.

Aber wir sollten ehrlich benennen, was geschieht.

Wir „entfernen“ nicht einfach objektiv messbaren Bias.

Wir entscheiden, welche Werte ein System umsetzen soll.

Diese Entscheidungen dürfen nicht allein von Technologieunternehmen, Datenwissenschaftlern oder Beratungsfirmen getroffen werden.

Datenschutz zeigt denselben Widerspruch

Beim Datenschutz findet sich ein ähnliches Muster.

Nach außen herrscht maximale Prinzipientreue. Es gibt Einwilligungstexte, Auftragsverarbeitungsverträge, Richtlinien und Datenschutzhinweise.

Gleichzeitig laufen zentrale Arbeitsprozesse über globale Cloudplattformen, Betriebssysteme, Analysewerkzeuge und Kommunikationsdienste.

Viele Organisationen können kaum vollständig erklären, welche Daten durch welche Unterauftragnehmer, Protokolle und Sicherheitsdienste fließen.

Das bedeutet nicht, dass Datenschutz sinnlos wäre.

Es bedeutet, dass formale Compliance und tatsächliche Kontrolle nicht dasselbe sind.

Eine Organisation kann juristisch sauber dokumentiert sein und technisch dennoch hochgradig abhängig bleiben.

Genau wie bei Fairness besteht die Gefahr, dass wir uns stärker mit dem Nachweis korrekten Verhaltens beschäftigen als mit dem tatsächlichen Verhalten.

Fairness darf kein Feigenblatt werden

Die Debatte über verantwortungsvolle KI wird unglaubwürdig, wenn Fairness ausschließlich von der Maschine verlangt wird.

Ein Unternehmen kann nicht glaubwürdig ein diskriminierungsfreies KI-System fordern und gleichzeitig seine eigenen Personalentscheidungen nicht untersuchen.

Ein Gesundheitssystem kann nicht erwarten, dass ein Algorithmus soziale Ungleichheit beseitigt, wenn der Zugang zu Versorgung ungleich bleibt.

Eine Behörde kann keine vollständige Transparenz von KI verlangen und gleichzeitig ihre eigenen Entscheidungswege für Bürger unverständlich gestalten.

Fairness-Audits sollten deshalb nicht nur das Modell prüfen.

Sie sollten auch die Organisation prüfen.

Dazu gehören Fragen wie:

Welche historischen Entscheidungen stecken in den Daten?

Welche Ziele verfolgt das System?

Wer definiert Erfolg?

Welche Menschen werden gar nicht erfasst?

Wer kann einer Entscheidung widersprechen?

Was passiert, wenn das System falschliegt?

Wie oft wird die menschliche Aufsicht tatsächlich genutzt?

Und würde der Prozess auch ohne KI als fair gelten?

Die letzte Frage ist möglicherweise die wichtigste.

Meine Position: KI muss nicht der bessere Mensch werden

KI muss nicht moralischer, gerechter oder menschlicher werden als jeder einzelne von uns.

Aber sie sollte auch nicht als Ausrede dienen, um unsere eigenen Fehler zu skalieren.

Das realistische Ziel lautet nicht perfekte Fairness.

Perfekte Fairness existiert weder bei Menschen noch bei Maschinen. Unterschiedliche Fairnessziele können sich widersprechen, Daten bleiben unvollständig und jede Entscheidung besitzt einen gesellschaftlichen Kontext.

Das Ziel sollte vielmehr sein:

Ungerechtigkeit sichtbar machen.

Fehler messbar machen.

Entscheidungen anfechtbar machen.

Verantwortung klar zuordnen.

Und nachweislich bessere Ergebnisse erzielen als der bisherige Prozess.

Wenn eine KI einen unfairen menschlichen Prozess ersetzt und nur etwas weniger unfair ist, kann das bereits eine Verbesserung sein.

Aber wir dürfen diesen Fortschritt nicht mit Gerechtigkeit verwechseln.

Fazit: Das Problem sitzt nicht nur im Modell

Bias und Fairness sind kein Nonsens.

Nonsens entsteht dort, wo wir so tun, als ließen sich gesellschaftliche Widersprüche mit einem Auditbericht und einigen technischen Kennzahlen auflösen.

KI-Systeme können bestehende Benachteiligungen reproduzieren, verstärken oder unsichtbar machen. Deshalb brauchen wir Prüfungen, Regeln und klare Verantwortlichkeiten.

Doch technische Fairness allein genügt nicht.

Ein fairer Algorithmus kann einen unfairen Arbeitsmarkt nicht reparieren.

Eine faire medizinische KI kann ungleichen Zugang zur Gesundheitsversorgung nicht beseitigen.

Eine saubere Datenschutzrichtlinie schafft noch keine technologische Souveränität.

Die Maschine ist nicht außerhalb unserer Gesellschaft entstanden.

Sie wurde mit unseren Daten, unseren Entscheidungen, unseren Interessen und unseren Widersprüchen gebaut.

Wenn wir gerechtere KI wollen, müssen wir deshalb mehr tun, als die Maschine zu korrigieren.

Wir müssen bereit sein, auch den Prozess, die Organisation und letztlich uns selbst zu prüfen.

Die entscheidende Frage lautet nicht nur:

Ist unsere KI fair?

Sondern:

Sind wir bereit, dieselben Maßstäbe auch an unsere eigenen Entscheidungen anzulegen?