KI-Ethik: Wer programmiert unsere Zukunft?

KI ist nicht neutral. Sie wurde von weißen Männern in Kalifornien gebaut. Und das merkt man.
 

Klingt provokant? Ist es auch. Aber es ist wahr. Die großen KI-Modelle – ChatGPT, Midjourney, Stable Diffusion – wurden von Tech-Firmen im Silicon Valley entwickelt. Die Trainingsdaten stammen hauptsächlich aus westlichen Ländern. Die Entwickler? Überwiegend weiß, männlich, hochgebildet.

Und das hat Konsequenzen. Für uns alle.

Ich bin selbst Teil dieser Geschichte. Mitte 2023 hat ChatGPT mit GPT-3.5 meinen Job als Copywriterin fast vernichtet. Ich hatte Glück und Lust auf das Neue und konnte umsatteln. Heute arbeite ich als KI-Trainerin und habe ein Buch geschrieben: "Smarter texten mit KI" (O'Reilly, 2025).
Und ich habe gelernt: KI ist kein neutrales Werkzeug. Sie trägt Werte, Vorurteile und Machtstrukturen in sich.
Lass uns darüber reden.

1. Biases: Wenn KI die falschen Lektionen lernt

KI lernt aus Daten. Und diese Daten tragen all die Vorurteile, Ungerechtigkeiten und blinden Flecken in sich, die unsere Gesellschaft hat.

Sprache: Wer wird verstanden?

Sprachassistenten wie Siri oder Alexa verstehen Hochdeutsch deutlich besser als Dialekte. Warum? Weil die Trainingsdaten hauptsächlich aus geschriebenen Texten stammen: Bücher, Zeitungsartikel, Wikipedia. Fast ausschließlich auf Hochdeutsch.
Die Konsequenzen:

• Menschen mit Dialekt oder Akzent werden schlechter verstanden. Bei Spracherkennung, automatischen Untertiteln, Kundenservice-Bots. Das bedeutet längere Wartezeiten, mehr Frustration, schlechterer Service.
• Ältere Menschen auf dem Land sind besonders betroffen.
• Es ist strukturelle Diskriminierung – nicht absichtlich, aber trotzdem real.

Wer entscheidet, was "Standard" ist? Tech-Firmen in urbanen Zentren. Nicht die Menschen, die tatsächlich von dieser Technologie betroffen sind.

Geschlecht: Die KI zementiert alte Stereotype

2018 entwickelte Amazon ein Recruiting-Tool, eine KI, die automatisch Bewerbungen durchsieht. Das Problem: Die KI sortierte Frauen systematisch aus.

Warum? Sie hatte aus historischen Daten gelernt. Und in der Vergangenheit hatte Amazon hauptsächlich Männer eingestellt. Die KI dachte: "Aha, Männer sind bessere Kandidaten." Bewerbungen mit dem Wort "Frauen" – wie "Frauen-Fußballteam" im Lebenslauf – wurden automatisch abgewertet.

Amazon stoppte das Tool. Aber wie viele andere Unternehmen nutzen ähnliche Systeme, ohne es öffentlich zu machen?

Bildgenerierung zeigt dasselbe Muster:

• "CEO" in Midjourney eingeben? → Männer im Anzug
• "Krankenpfleger"? → Frauen. "Arzt"? → Männer.

Die KI lernt aus der Vergangenheit. Und die Vergangenheit ist voller Geschlechterstereotype. Wenn wir diese Systeme ungeprüft einsetzen, zementieren wir alte Muster, statt sie aufzubrechen.

Hautfarbe: Wessen Gesicht erkennt die KI?

Gesichtserkennungs-Software macht bei People of Color deutlich häufiger Fehler als bei weißen Menschen. Das hat reale Konsequenzen: Falsche Verhaftungen, weil die Software jemanden falsch identifiziert hat.

Warum passiert das? Die meisten Trainingsbilder stammen aus westlichen Ländern und zeigen überwiegend weiße Menschen. Die KI hat nicht gelernt, andere Gesichter präzise zu erkennen.

2024 gab es einen Aufschrei um Google Gemini: Das Tool sollte historische Figuren darstellen, "überdiversifizierte" aber – amerikanische Gründerväter wurden als People of Color dargestellt. Google wollte gegensteuern, weil KI-Bildgenerierung jahrelang hauptsächlich weiße Menschen gezeigt hatte.

Das Grundproblem: KI hat keinen Mittelweg. Sie verstärkt, was in den Daten steckt.

Weitere Biases: Alter, Klasse, Herkunft

Kreditvergabe-Algorithmen diskriminieren gegen ärmere Viertel. Selbst mit stabilem Einkommen wird Menschen eher der Kredit verweigert, wenn sie in der "falschen" Gegend wohnen.

Medizinische KI wird oft mit Daten von jüngeren, westlichen Patient:innen trainiert. Symptome bei älteren Menschen oder Menschen aus anderen Kulturen werden schlechter erkannt.

Die Kernbotschaft: Biases sind keine Ausnahmen. Sie sind systemisch. KI ist ein Spiegel unserer Gesellschaft – mit all ihren Ungerechtigkeiten.

2. Jobs: Warum "einfach umschulen" keine Lösung ist

Jetzt wird's persönlich.

Meine Geschichte: Von Copywriter zu KI-Trainerin

17 Jahre lang habe ich als Copywriterin gearbeitet. Werbetexte, Website-Texte, LinkedIn-Posts. Ich hatte 1.500 Kunden, vier Texter-Preise gewonnen und war gut in meinem Job.

Dann kam ChatGPT mit GPT-3.5.

Innerhalb von Sekunden konnte jeder Werbetexte schreiben. Bei weitem nicht perfekt. Aber besser als Sprachmodelle davor.

Mein Job? Erst mal fast vernichtet. Die Anfragen gingen massiv zurück.
Aber ich hatte enormes Glück:
•    17 Jahre Netzwerk – ich kannte Leute, hatte Vertrauen aufgebaut
•    Einen Buchdeal mit O'Reilly – enorme Sichtbarkeit
•    Einladung zum KI Day – Einstieg in die Trainer-Szene
•    Finanziellen Puffer – konnte mir den Übergang leisten
Heute mache ich "Train the KI Trainer"-Kurse. Ich verdiene wieder gut.
Aber ehrlich: Ich hatte Glück. Und nicht jeder hat das.
Was es wirklich braucht, um sich anzupassen
"Einfach umschulen" ist kein realistischer Ratschlag für die meisten Menschen.
Was man wirklich braucht:
Zeit
Wer hat Monate, um sich umzuschulen? Eine alleinerziehende Mutter mit zwei Jobs? Jemand, der gerade so über die Runden kommt?
Finanzielle Sicherheit
Viele Menschen leben von Gehalt zu Gehalt. Sie können nicht einfach pausieren, während sie ein neues Geschäft aufbauen.
Netzwerk
Ein Netzwerk aufzubauen dauert Jahre, manchmal Jahrzehnte. Wenn du neu in einer Branche bist oder in einer strukturschwachen Region lebst – dann hast du dieses Netzwerk nicht.
Tech-Affinität
Nicht jeder ist seit 17 Jahren online unterwegs. Nicht jeder hat Zugang zu den richtigen Informationen.
Es ist ein anderer Job
KI-Trainerin zu sein ist ein komplett anderer Job als Copywriterin. Als Copywriterin saß ich alleine im Home Office. Jetzt stehe ich vor Menschen, halte Workshops. Das liegt nicht jedem – und das ist völlig okay.
Wer bleibt zurück?
Die harte Wahrheit: Nicht jeder kann sich anpassen. Und das ist kein individuelles Versagen – das ist ein strukturelles Problem.
Wer zahlt den Preis?
•    Ältere Arbeitnehmer:innen – Wie realistisch ist es mit 55 komplett neu anzufangen?
•    Menschen in prekären Jobs – Call-Center, Kassen, Lager: weder Zeit noch Geld für Umschulungen
•    Menschen in ländlichen Regionen – Weiterbildung gibt es hauptsächlich in Städten
•    Menschen ohne Hochschulbildung – Viele KI-Jobs erfordern akademischen Hintergrund
Die Tech-Bros sagen: "Passt euch an!"
Aber Anpassung ist ein Privileg.
Wenn wir als Gesellschaft sagen: "Pech gehabt, hättest du dich halt umschulen sollen" – dann lassen wir Millionen von Menschen zurück.

3. Weitere ethische Baustellen
Transparenz: Die Blackbox
Niemand weiß wirklich, warum ChatGPT eine bestimmte Antwort gibt. Selbst die Entwickler:innen bei OpenAI können es nicht genau erklären.
Das ist ein Problem, wenn KI wichtige Entscheidungen trifft:
•    Warum wurde dir der Kredit verweigert? Keine Ahnung.
•    Warum wurde deine Bewerbung aussortiert? Die Firma weiß es selbst nicht.
•    Warum diese medizinische Behandlung? Blackbox.
Wenn wir nicht verstehen, wie KI funktioniert, können wir sie auch nicht zur Rechenschaft ziehen.
Urheberrecht: Wer zahlt für die Trainingsdaten?
ChatGPT, Midjourney, Stable Diffusion – alle wurden mit Millionen von Texten, Bildern und Büchern trainiert. Ohne Einwilligung. Ohne Bezahlung.
Künstler:innen, Autor:innen, Journalist:innen – ihre Arbeit wurde einfach genommen. Jetzt können diese Modelle Bilder im Stil dieser Künstler:innen erstellen. Aber die Original-Urheber:innen sehen keinen Cent.
Massive Klagen laufen – aber bisher gibt es keine klare rechtliche Lösung.
Umwelt: Der unsichtbare Preis
Ein einzelnes Training von GPT-3: So viel Strom wie mehrere hundert Haushalte in einem Jahr.
ChatGPT betreiben: Jeden Tag Millionen Dollar an Energie.
Rechenzentren-Kühlung: Microsoft verbraucht für seine KI-Infrastruktur so viel Wasser wie eine Kleinstadt.
Wir reden oft über die Vorteile von KI. Aber selten über die ökologischen Kosten.

4. Was jetzt?
KI ist kein neutrales Werkzeug. Sie trägt Werte, Vorurteile und Machtstrukturen in sich.
KI verändert unsere Arbeitswelt. Manche profitieren. Viele bleiben zurück.
Und KI wirft Fragen auf: Wer kontrolliert diese Technologie? Wer profitiert? Wer zahlt den Preis?
Was du tun kannst:
•    Kritisch bleiben. Frag dich: Wem nützt diese KI? Wen benachteiligt sie?
•    Dich informieren. VHS-Kurse, Bibliotheken, Online-Ressourcen.
•    Austausch suchen. Red mit anderen über KI.
•    Politisch aktiv werden. KI-Regulierung ist eine politische Frage.

KI wird nicht verschwinden. Sie wird unsere Zukunft prägen – ob wir wollen oder nicht.
Aber wir können entscheiden, wie wir damit umgehen. Und für wen sie funktionieren soll.
Lass uns dafür sorgen, dass es eine Zukunft ist, in der KI ein Werkzeug für alle ist – nicht nur für wenige.

─────────────────────────────────
Über die Autorin: 17 Jahre Copywriting, jetzt KI-Trainerin. 1.500+ Kunden begleitet. Autorin von "Smarter texten mit KI" (O'Reilly 2025). Train-the-KI-Trainer-Kurse.