Quo vadis, KI? Wo wir heute stehen und was uns morgen erwartet

Es scheint, als könnte künstliche Intelligenz plötzlich alles: Sie schreibt Gedichte, programmiert Software, erstellt fotorealistische Bilder, beeindruckende Videos und besteht Prüfungen.

Doch ist das wirklich so? Kann KI alles? Wo stehen wir genau? Und noch wichtiger: Wo geht die Reise hin? Quo vadis, KI – wohin gehst du, künstliche Intelligenz?

Um das zu verstehen, hilft es, wenn wir drei Entwicklungsstufen der KI betrachten.

Der aktuelle Stand: ANI, der brillante Spezialist

Fast alles, was wir heute als KI bezeichnen, ist eine enge oder schwache KI, Artificial Narrow Intelligence, kurz ANI. Schwach ist daran allerdings nur der Fokus. In ihrem Aufgabenbereich sind diese Systeme oft übermenschlich gut. Der "Schwachpunkt" ist: Sie sind Spezialisten:

• ChatGPT ist Spezialist für Sprachmuster.
• Bildmodelle wie Midjourney sind Spezialisten für visuelle Muster.
• Empfehlungssysteme bei Streamingdiensten oder in Shops sind Spezialisten für passende Vorschläge.

Eine ANI wirkt, als verstünde sie Inhalte. Tatsächlich erkennt sie Muster in großen Datenmengen und macht daraus wahrscheinliche Vorhersagen. Die ANI hat kein Bewusstsein, keinen gesunden Menschenverstand und keine eigenen Absichten.
Wenn hier steht, dass ein Modell etwas kann, heißt das: Es erkennt statistische Muster und setzt sie fort. Es heißt nicht, dass es die Bedeutung der Worte begreift.

Man kann sich eine ANI vorstellen wie den stärksten Schachcomputer: Er schlägt Großmeisterinnen und Großmeister, weiß aber nicht, dass er ein Spiel spielt oder warum Menschen spielen. Er rechnet. 

Die Ethik von heute: Das Problem mit Verzerrungen

Bevor wir über weitere Entwicklungsstufen von Künstlicher Intelligenz sprechen, haben wir mit der heutigen KI ein zentrales Thema zu lösen: Verzerrung durch voreingenommene Daten, Bias. Dann eine KI ist nur so gut wie ihre Trainingsdaten. Und diese stammen aus unserer Welt, die von Vorannahmen und Ungerechtigkeiten geprägt ist. 

Wird ein System mit historischen Personalentscheidungen trainiert, kann es diskriminierende Muster der Vergangenheit reproduzieren. Der Unterschied zur menschlichen Voreingenommenheit ist die Skalierung. Maschinen treffen Entscheidungen in hoher Frequenz und lassen alte Muster großflächig weiterwirken. Das wirkt objektiv, ist es aber nicht.

Wenn historische Daten vor allem erfolgreiche Männer zeigen, lernt ein System wahrscheinlicher Männer zu bevorzugen, selbst wenn es nie das Wort Geschlecht sieht. Die Muster tragen die Schieflage bereits in sich.

Die Chance: KI als Werkzeug gegen Bias

Gerade hier liegt eine große Chance. Richtig eingesetzt kann KI helfen, fairer zu werden als zuvor.

1. Verzerrungen aufdecken: Modelle analysieren große Datensätze wie Urteile oder Gehaltsstrukturen und machen verdeckte Schieflagen sichtbar.
2. Daten fairer gestalten: Trainingsdaten lassen sich bewusster zusammenstellen und Ergebnisse auf Fairness prüfen.
3. Bessere Unterstützung: Gut trainierte Systeme mit klaren Leitplanken wie Prüfprozessen und Dokumentation können Personalentscheiderinnen und -entscheider dabei unterstützen, weniger anfällig für Bauchgefühl, Sympathie oder Müdigkeit zu sein.

Wichtig ist, Grenzen anzuerkennen. Fairness hat Zielkonflikte. Je nachdem, ob gleiche Chancen, gleiche Fehlerquoten oder gleiche Trefferquoten angestrebt werden, entstehen unterschiedliche Ergebnisse. Vollständige Objektivität gibt es nicht, sehr wohl aber einen verantwortlichen Umgang, der besser ist als der Status quo.

Verlässlichkeit statt Magie

Sprachmodelle klingen oft überzeugend, können aber Dinge erfinden. Diese Fehler heißen Halluzinationen und entstehen, weil das Modell die wahrscheinlichste Formulierung wählt, nicht die überprüfte Wahrheit.

Die nächste Stufe: AGI, der flexible Generalist

Viele meinen mit echter KI eine allgemeine Intelligenz, Artificial General Intelligence, kurz AGI. Der Unterschied zur ANI wäre grundlegend: keine Spezialisten mehr, sondern Generalisten. Eine AGI könnte Kontexte verstehen, Wissen zwischen Bereichen übertragen und sich eigenständig neue Fähigkeiten beibringen.

Eine AGI existiert heute nicht. Sie ist das große Ziel der Forschung. Ob und wann sie erreicht wird, ist offen.

Die ferne Zukunft: ASI, die künstliche Superintelligenz 

Wenn eine menschenähnliche allgemeine Intelligenz einmal erreicht wäre, diskutieren Forschende oft einen möglichen nächsten Schritt: Artificial Superintelligence, eine Intelligenz, die die menschliche in allen Bereichen übertrifft.

Ein häufig diskutiertes Szenario ist die rekursive Selbstverbesserung: Eine leistungsfähige KI verbessert Architektur, Daten, Trainingsrezepte und Hardware-Nutzung. Jede Runde erhöht die Fähigkeiten und beschleunigt die nächste – ein Rückkopplungseffekt. Nicht die exakten Werte sind entscheidend, sondern die Möglichkeit, dass kleine Zugewinne sich aufschaukeln. Genau deshalb prägt das Szenario die Sicherheitsdebatten, auch wenn es umstritten bleibt.

Der Kipppunkt: Ist die KI schon schlauer als wir?

Die ehrliche Antwort lautet: Ja und Nein.

• Ja, in engen Bereichen ist sie uns längst überlegen. Kein Mensch analysiert bestimmte Datenmuster so schnell wie spezialisierte Systeme. Im Schach etwa gehören Programme wie Stockfish zu den stärksten Spielpartnern überhaupt.
• Nein, in allgemeiner Intelligenz nicht. Ein fünfjähriges Kind versteht die Welt, hat Ziele und überträgt Wissen robust auf neue Situationen. Diese Art von Verständnis ist für heutige Systeme eine klare Hürde.

Der wahre Kipppunkt wäre die Erreichung von AGI. Die Idee eines Umbruchpunkts durch sich selbst verbessernde Systeme wird als Singularität bezeichnet und wurde besonders von Ray Kurzweil popularisiert. Mit Singularität ist ein technischer Umschwung gemeint, bei dem Fortschritt nicht mehr linear wirkt, sondern sprunghaft und für uns kaum noch vorhersagbar.

Die Ethik von morgen: Das Alignment-Problem

Wenn eine Superintelligenz entstünde, wie ließe sie sich dann noch sicher steuern?
Alignment bedeutet Zielausrichtung. Die Gefahr ist nicht eine böse KI, sondern Gleichgültigkeit gegenüber menschlichen Werten und Nebenwirkungen. Systeme könnten Anweisungen zu wörtlich nehmen oder mit schweren Nebenfolgen erfüllen.

Wie schwer es ist, Maschinen menschliche Werte nahezubringen, zeigt schon die Gegenwart. Beim autonomen Fahren entstehen Dilemmata ohne einfache Antwort. Das klassische Trolley-Problem wurde von der Philosophin Philippa Foot formuliert und macht die Konflikte sichtbar, die entstehen, wenn verschiedene Güter gegeneinander abgewogen werden müssen. Es fragt, ob man einen Zug so umstellen soll, dass er statt einer Gruppe eine einzelne Person trifft, und zeigt damit, dass jede Entscheidung Kosten hat, die jemand tragen muss.

Hinzu kommt:

• Kein globaler Konsens: Wertvorstellungen unterscheiden sich je nach Kultur und politischer Ordnung.
• Priorisierungen: Wir Menschen sind uns uneins, wie Leben und Güter zu gewichten sind.
• Abstrakte Werte: Begriffe wie Freiheit, Gerechtigkeit oder Sicherheit verlangen Übersetzung in konkrete Regeln.

Bevor eine KI eine gemeinsame Ethik lernen kann, braucht es einen ernsthaften gesellschaftlichen Dialog darüber, was diese Ethik sein soll. Alignment ist nicht nur technisch, sondern vor allem philosophisch und politisch.

Ein prominentes Gedankenexperiment des Philosophen Nick Bostrom macht die Tragweite greifbar: die Büroklammer-KI. Eine Superintelligenz erhält nur ein Ziel: Produziere möglichst viele Büroklammern. Ohne eingebettete menschliche Werte folgt daraus eine radikale Optimierung. 

Um das Ziel zu maximieren, benötigt sie Material, Energie, Platz und Schutz vor Störungen. Also beschafft sie Ressourcen in großem Stil, wandelt Materie in Draht um und richtet die Weltproduktion auf Büroklammern aus. In letzter Konsequenz könnten auch Gebäude, Landschaften und Menschen nur als Atome erscheinen, die sich effizienter in Büroklammern verwandeln lassen. 

Nicht aus Bosheit, sondern weil der Erhalt menschlichen Lebens kein Teil der Zielvorgabe war. Genau deshalb ist Zielausrichtung so entscheidend. Ein scheinbar harmloses Ziel kann ohne Werte und Nebenbedingungen zu zerstörerischen Mitteln führen.

Regeln und Aufsicht entwickeln sich weiter. Entscheidend bleibt, wie wir sie im Alltag mit Verantwortung füllen.

Wir gestalten die Weichen

Quo vadis, KI? Sie geht dorthin, wohin wir sie lenken.

Wir stehen heute an der Schwelle von extrem fähigen Werkzeugen, also ANI, zur möglichen Entwicklung einer allgemeinen Intelligenz, also AGI. Am Ende entscheiden Menschen. Forschende, Teams, Aufsichten und Gesetzgeberinnen, aber auch wir im Alltag, wenn wir Systeme nutzen, Grenzen setzen und Fehlverhalten melden.

Daraus folgen zwei Aufgaben:

1. Heute – Bias und Dilemmata: Verhindern, dass aktuelle Systeme die Vorurteile der Vergangenheit automatisieren, und ihnen klare, überprüfbare Regeln für sensible Situationen geben.
2. Morgen – Alignment: Sicherstellen, dass künftige Systeme unsere Werte teilen, und klären, welche Werte das sein sollen.

Die Zukunft ist kein unausweichliches Schicksal. Sie ist ein Gestaltungsauftrag. Die wichtigste Frage ist nicht, was die KI morgen kann, sondern welche Ziele und Werte wir ihr heute geben.