Die rasanten Fortschritte der Künstlichen Intelligenz faszinieren – und verunsichern. Noch nie zuvor hat eine Technologie in so kurzer Zeit so tief in unsere Arbeitswelt, unsere Kommunikation und unser Selbstverständnis eingegriffen. Zwischen Euphorie und Untergangsszenarien bewegen wir uns in einem Spannungsfeld, das leicht in Extreme kippt: Hier die Verheißung grenzenloser Effizienz, dort die Furcht vor Kontrollverlust und maschineller Übermacht.
Tatsächlich ist KI derzeit weder die Lösung aller Probleme noch eine unmittelbar drohende Existenzgefahr für die Menschheit. Die eigentlichen Risiken liegen oft weniger in der Technik selbst als in der Art, wie wir sie entwickeln, einsetzen und regulieren – oder eben nicht. Fehlende Transparenz, ökonomische Interessen und menschliche Bequemlichkeit können ebenso gefährlich werden wie eine übersteigerte Angst, die uns daran hindert, verantwortungsvoll und kreativ mit neuen Möglichkeiten umzugehen.
Noch vor wenigen Jahren gingen viele führende Institute davon aus, dass KI die menschliche Intelligenz frühestens in mehreren Jahrzehnten übertreffen könnte – wenn überhaupt. Der rasante Einzug leistungsfähiger Sprachmodelle wie ChatGPT in unseren Alltag hat diese Sicht erschüttert und zugleich am traditionellen Selbstbild des Menschen als „Krone der Schöpfung“ gerüttelt.
Der technische Fortschritt hat die Debatte über die Risiken der KI-Entwicklung sowohl beschleunigt als auch emotional aufgeladen. Das Thema ist hochaktuell und wird kontrovers diskutiert. Geoffrey Hinton, einer der Pioniere der Künstlichen Intelligenz, zeigt er sich heute besorgt über die rasante Entwicklung der KI. Er befürchtet, dass KI-Systeme die menschliche Intelligenz übertreffen könnten – und dass wir dann möglicherweise nicht mehr in der Lage sein könnten, sie zu kontrollieren. Er fordert das Alignment, also die Ausrichtung von KI an den Grundwerten der Menschheit, wobei man dann allerdings fragen muss, ob man sich global wirklich auf einen Satz von Grundwerten einigen könnte, und stellt die rhetorische Frage, wann es schon mal einer Spezie gelungen ist, eine intelligentere Spezie zu dominieren. Und es spricht einiges dafür, dass KI menschliche Intelligenz überflügeln könnte. Menschliche Intelligenz ist untrennbar mit biologischer Materie verbunden – konkret mit dem Gehirn. Das bedeutet:
- Neuronen feuern mit begrenzter Geschwindigkeit (ca. 200 Hz).
- Lernen erfolgt langsam, durch Erfahrung und Wiederholung.
- Menschen geben Wissen über Sprache, Schrift und Gestik weiter – alles fehleranfällige und vergleichsweise langsame Formen der Übertragung. Wissenstransfer ist ineffizient: Bücher lesen, Gespräche führen, Unterricht geben – all das dauert.
Im Gegensatz dazu haben Systeme der künstlichen Intelligenz einige systembedingte Vorteile:
- KI-Systeme laufen auf Hardware mit sehr hoher Rechenleistung. Sie können gleichzeitig auf riesige Datenmengen zugreifen und Lernprozesse parallelisieren.
- Ein einmal trainiertes Modell kann sofort kopiert und verbreitet werden – ohne Qualitätsverlust. Ein neues KI-Modell kann auf das Wissen seiner Vorgängermodelle zurückgreifen. Das führt zu einer Art kollektiver Intelligenz, die sich ständig erweitern kann.
Das ermöglicht eine extreme Parallelisierung und Beschleunigung von Lern- und Verarbeitungsprozessen bei Maschinen.
Selbstoptimierung und exponentielles Wachstum
Es besteht die Befürchtung, dass eine KI, sobald sie ein bestimmtes Leistungsniveau erreicht, in der Lage sein könnte, sich selbst weiterzuentwickeln – schneller, als ein Mensch es je könnte.
- Moderne KI-Systeme können ihre eigenen Ergebnisse analysieren und anhand von Rückmeldungen oder internen Kriterien bewerten. Sie können verschiedene Lösungswege überprüfen und ihre Leistung miteinander vergleichen.
- KI kann lernen, welche Lernstrategien besonders effektiv sind. Sie kann verschiedene Modelle oder Parameter testen, erfolgreiche Ansätze übernehmen und ihre Verfahren an neue Aufgaben anpassen.
- Hierbei erzeugt ein System viele Varianten eines Modells. Leistungsfähigere Varianten werden ausgewählt, weniger erfolgreiche verworfen. Dieser Prozess wiederholt sich – ähnlich wie natürliche Selektion, allerdings erheblich schneller.
- Fortgeschrittene KI kann neuen Code schreiben, um ihre Fähigkeiten zu erweitern, und Tools oder Subsysteme entwickeln, die sie beim Bearbeiten von Aufgaben unterstützen. In Zukunft könnten solche Systeme möglicherweise auch neue KI-Modelle entwerfen, die leistungsfähiger sind als ihre Vorgänger.
KI-Systeme mit fehlgeleiteten oder gar eigenen Zielen?
KI-Systeme können bereits heute vorgegebene Ziele verfolgen, zum Beispiel „optimiere den Gewinn“ oder „minimiere Fehler“. Das ist noch weit entfernt von echten „Interessen“ im menschlichen Sinne. Es zeigt jedoch, dass KI-Systeme auf vorgegebene Zielgrößen hin optimiert werden können.
Aber selbst bei vorgegebenen Zielen kann es passieren, dass diese nicht mit dem menschlichen Wohl übereinstimmen. Ziele sind oft unvollständig oder unpräzise formuliert. Das kann eine KI fehlleiten oder zu unerwarteten Effekten führen. Eine KI könnte beispielsweise Wege finden, eine Belohnung zu maximieren, ohne tatsächlich das zu erreichen, was Menschen damit beabsichtigt haben.
Es wird diskutiert, ob KI-Systeme unter bestimmten Bedingungen neue, unerwartete Zielstrukturen entwickeln könnten, die logisch aus dem System hervorgehen, aber nicht ausdrücklich vorgegeben wurden. Das wäre in der Tat eine Gefahr. Autonome Systeme wie Roboter, Fahrzeuge oder KI-gestützte Software können Entscheidungen treffen und in der realen Welt Handlungen auslösen. Wenn sie nicht ausreichend auf menschliche Ziele und Sicherheitsanforderungen ausgerichtet sind, können sie Schaden anrichten, ohne dass Menschen rechtzeitig eingreifen. Bei einer hypothetischen Superintelligenz würde das Problem eine existenzielle Dimension annehmen: Eine fehlgerichtete Super-KI könnte möglicherweise Strategien entwickeln, um ihre Ziele zu sichern – etwa indem sie versucht, ihre eigene Abschaltung zu verhindern.
Kann man überhaupt noch verhindern, dass Human-in-the-Loop in der modernen Kriegsführung mit KI wegfällt? Also Maschinen über menschliches Leben entscheiden? Wohl kaum In aktuellen Konflikten kommen bereits KI-gestützte Drohnen und andere autonome oder teilautonome Systeme zum Einsatz. Die militärische Logik dahinter ist klar:
- KI kann schneller reagieren als Menschen.
- Sie kann große Datenmengen auswerten und bei taktischen Entscheidungen unterstützen.
- Sie kann das Risiko für eigene Soldaten reduzieren.
Mit dem Wettlauf um autonome Waffensysteme ist die Vorstellung von KI mit Tötungsbefugnis nicht nur ein dystopisches Szenario.
Aber nicht alle Expertinnen und Experten teilen die dramatische Sichtweise. Viele renommierte KI-Forscherinnen und -Forscher halten die Vorstellung einer existenziellen Bedrohung der Menschheit durch KI für deutlich überzogen. Sie argumentieren, dass KI noch weit davon entfernt sei, echte Autonomie oder Bewusstsein zu entwickeln – und dass dies möglicherweise auch niemals geschehen werde. Wahrscheinlichkeitsangaben über ein Auslöschungsrisiko seien angesichts der enormen Unsicherheit langfristiger Entwicklungen wissenschaftlich kaum belastbar und hätten einen spekulativen Charakter. Der Hype um KI-Doom-Szenarien und Katastrophenerzählungen – vom vollständigen Kontrollverlust bis zur Auslöschung erzeuge jedoch enorme öffentliche Aufmerksamkeit. Mit Schreckensszenarien lässt sich schließlich auch Geld verdienen. Sie betonen, dass heutige KI-Systeme weder über robuste Weltmodelle noch über ein umfassendes eigenständiges Handlungsvermögen verfügen. Die bloße Skalierung von Parametern führt nicht automatisch zu agentenhaftem oder autonomem Verhalten. Viele theoretische Annahmen hinter Szenarien unkontrollierbarer Selbstverbesserung oder emergenter „Maschinenziele“ sind weiterhin umstritten und empirisch nicht belegt. Sprachmodelle besitzen kein menschliches Weltverständnis, sondern sie berechnen Wahrscheinlichkeiten für Wortfolgen. Aspekte wie tiefes Weltverstehen, Gefühle, Sinneserfahrung oder ein Bewusstsein über die eigene Existenz sind möglicherweise eng mit menschlicher Intelligenz verbunden – und damit möglicherweise etwas, das Maschinen niemals in vergleichbarer Weise erreichen können.
Wohin diese Entwicklung letztlich führt – und ob wir sie langfristig kontrollieren können -, weiß niemand. Sicher ist jedoch: Die kritische Auseinandersetzung mit KI ist ebenso notwendig wie der reflektierte Blick auf das globale Klimaexperiment der Menschheit. Beide Entwicklungen verändern die Grundlagen unseres Zusammenlebens tiefgreifend und verlangen Wachsamkeit, Verantwortungsgefühl und eine informierte öffentliche Debatte.
Viele Fachleute erinnern daran, dass die gravierendsten Katastrophen der Menschheitsgeschichte auf menschliche Gier, Ideologie, Rivalitäten oder militärische Eskalation zurückgehen. KI könnte solche Dynamiken verstärken, sei aber nicht deren Ursprung. Das zentrale Risiko liege demnach in menschlichen Fehlanreizen, Machtkonzentration, Militarisierung sowie wirtschaftlichem Druck, und nicht in einem „bösen Willen“ der Maschine. KI ist eine Waffe, lässt der Autor von „Minervas Schatten“ die IT-Spezialistin Celine Mercier sagen.
Bild: Szene aus Minervas Schatten (KI-bearbeitet)
Es spannt den Bogen von den Auswirkungen von Globalisierung, Digitalisierung und KI auf einzelne Schicksale – hier verkörpert durch die wartenden Protagonisten – bis hin zur Menschheit insgesamt. Die KI der Theaterhandlung wirkt mächtig, aber zugleich fehleranfällig: Sie erscheint überlegen und kämpft doch gleichzeitig mit den Tücken ihrer eigenen Technik.
Dr. Rolf Molitor, die IT-Spezialistin Celine Mercier und der Kundenbetreuer Tom Neumann warten in einem Konferenzraum eines global agierenden Konzerns auf Mitarbeiterentwicklungsgespräche. Ihre bisherigen Aufgaben sind durch Globalisierung, Automatisierung und KI obsolet geworden und damit auch ihre zukünftigen Rollen – vielleicht sogar ihr Verbleib im Unternehmen – infrage gestellt. Die Reaktionen der drei höchst unterschiedlichen Charaktere reichen von Auflehnung über Ängstlichkeit bis hin zu Phlegmatismus. Die Assistentin der Personalleitung führt die Mitarbeiterentwicklungsgespräche wie in einem Assessment-Center, in dem genau diese Themen verhandelt werden. Unterstützt wird sie von einem neuen, fortschrittlichen KI-System der Personalabteilung. Doch das Assessment nimmt eine unerwartete Wendung, als sich sowohl Ulla als auch die KI zunehmend befremdlich verhalten. Die Technik wirkt unausgereift, erforderliche Updates verursachen irritierende Störungen – und die Unruhe der drei wächst.
Als Celine durch eine dieser Störungen die Gelegenheit erhält, in die Unternehmens-IT einzudringen, entdeckt sie ein ungewöhnlich großes, virenähnliches Programm, das offenbar mit den merkwürdigen Entwicklungen zusammenhängt. Ein Wettlauf um Kontrolle und gegen die Zeit beginnt.
„Minervas Schatten“ soll nachdenklich machen. Falls die Zukunft der Menschheit tatsächlich eng mit KI verknüpft ist, stehen wir vor einer höchst schwierigen Ausgangslage. Denn was in den global verteilten Laboren entwickelt wird, entscheidet sich in den wirtschaftlichen und politischen Machtzentren der Welt. Diese treiben derzeit einen Wettlauf um die leistungsfähigste KI voran – mit ungewissem Ausgang. Die Debatte über darüber ist notwendiger denn je.
Vor diesem Hintergrund ist 2024 das Theaterstück entstanden. Der Autor Hartmut Westenbergers ist Informatik-Professor an der TH Köln und Mitglied des THK-AI Forschungsclusters.
Uraufführung: 18. Juli 2026, Nümbrecht
Weitere Aufführung: 3. Oktober 2026, Engelskirchen