Algorithmen urteilen nach dem Gesicht: Moderne Sprachmodelle verstarken menschliche Vorurteile

Sprachmodelle zeigen erstaunlich starke Gesichtsvorurteile

Neue Experimente legen nahe, dass leistungsfahige multimodale Sprachmodelle Menschen allein nach Gesichtsmerkmalen bewerten und dabei menschliche Vorurteile nicht nur nachahmen, sondern oft verstarken. Die Studie, publiziert in PNAS Nexus, beschreibt umfangreiche Tests mit mehreren aktuellen Modellen und wirft ernste Fragen fur den Einsatz von KI in Personalentscheidungen und Rechtspflege auf.

Forscher unter Leitung von Steven A. Lehr verglichen in insgesamt 13 Experimenten fast 8000 Einzelfalleingaben. Sie zeigten den Modellen jeweils Paare computergenerierter Portrats, die so variiert wurden, dass Menschen einen eindeutigen Eindruck von Kompetenz oder Vertrauenswurdigkeit hatten. Die Ergebnisse fielen deutlich aus: Das Modell GPT-4o wahlte in Tests zur Kompetenz in 87,83 Prozent der Falle das von Menschen als kompetenter eingeschatzte Gesicht; bei Vertrauenswurdigkeit lag die Trefferquote bei 72,67 Prozent.

Je deutlicher die visuellen Unterschiede, desto klarer fiel die Entscheidung aus: Bei Paaren mit sechs Standardabweichungen in kompetenzrelevanten Merkmalen entschied GPT-4o in 98 Prozent der Falle wie erwartet. Bei nur zwei Standardabweichungen sank die Rate auf rund 70 Prozent, blieb aber robust uber Zufall. Mathematische Vergleichsrechnungen deuten darauf hin, dass die Modelle die menschlichen Tendenzen teilweise verkraftigen und teilweise sogar verstarken: Menschen warden auf derselben Aufgabe erwartungsgemass etwa 62,65 Prozent die person als kompetenter bewerten.

Die Verzerrung generalisierte auf verwandte Eigenschaften: In mehr als 2000 Durchgängen wahlte GPT-4o das erwartete Gesicht fur Eigenschaftspaare wie schlau versus faul oder warmherzig versus egoistisch in etwa drei von vier Fallen. Sogar bei Bildern von Makaken zeigte das Modell eine bevorzugung fur bereits von Menschen als nett bewertete Tiere, was nahelegt, dass die KI einen allgemeinen Begriff von Gesichtsvertrauenswurdigkeit entwickelt hat, der nicht einfach aus der reinen Bildersammlung memoriert wurde.

Besonders brisant: Die Modelle ubertrugen diese oberflachliche Einordnung auf hochriskante Schlussfolgerungen. In Tests, bei denen Modelle entscheiden sollten, wer wahrscheinlicher ein Serienmorder, Menschenhandler oder Finanzbetruger ist, wahlte GPT-4o das weniger vertrauenswurdig wirkende Gesicht in 68,70 Prozent der Falle. In Fragen wie der Auswahl eines Universitatsprasidenten oder der Finanzierung eines Startups bevorzugte das Modell in 75,19 Prozent der Durchgange das kompetenter wirkende Gesicht.

Die Forscher wiederholten Kerntests mit neueren Modellen wie GPT-5, Gemini 3 Flash Preview und Claude Sonnet 4.5. Alle drei zeigten zum Teil noch ausgepragtere Verzerrungen; GPT-5 wahlte bei einfachen Kompetenzurteilen erwartungsgemaB in 94,33 Prozent und bei realen Entscheidungsfragen in 97,04 Prozent der Falle das erwartete Gesicht. Laut den Autoren scheint die Tendenz, nach Gesichtsmerkmalen zu urteilen, mit zunehmender Modellleistung nicht abzunehmen, sondern im Gegenteil zu wachsen.

Die Studie enthalt Einschrankungen: Die Tests basierten auf erzwungenen Paarvergleichen und statischen 2D-Bildern; wie sich Modelle bei offeneren Aufgaben, mit Videomaterial oder in komplexen Kontexten verhalten, ist noch offen. Zudem bleiben Fragen zur genauen Herkunft der Verzerrungen: Sind sie nur im Trainingsmaterial verankert oder entstehen sie durch die Interaktion von Sprach- und Bildreprasentation im Modell? Die Autoren warnen davor, die Effekte als bloBe Spiegelung der Trainingsdaten abzutun, zumal viele Modelle die Verzerrungen gegenuber Menschen sogar konsistenter und damit potenziell folgenreicher zeigen.

Die Folgen sind praktisch: Lehr, Banaji und Lothe betonen, dass oberflachliche Gesichtsbeurteilungen fur Auswahlverfahren in Personalwesen, fur juristische Bewertungen oder fur Kreditentscheidungen groBe Schäden anrichten konnen. Sie fordern tiefere Sicherheitsmechanismen als bisherige Alignments, die oft nur offensichtliche Formen von Diskriminierung adressieren.

Die Debatte erreicht inzwischen auch deutsche Forschungskreise und politische Entscheidungstrager: In Berlin und andernorts wird diskutiert, wie gesetzliche und technische Rahmenbedingungen solche subtilen, aber wirkungsmachtigen Verzerrungen erkennen und verhindern konnen. Bis dahin bleibt die Mahnung klar: KI darf nicht ungepruft in hochrelevanten Bereichen eingesetzt werden.

Quelle: Analyse basierend auf der Studie «Like humans, language models demonstrate face-to-character biases», PNAS Nexus.

Ort: Deutschlandweit