Klassische Einwände
Jeder Einwand, den du gegen KI-Risiken hörst, wurde schon hundertfach widerlegt. Hier ist die Übersicht.
Wer über existenzielle Risiken durch Künstliche Intelligenz spricht, bekommt Gegenwind. Das ist normal. Skepsis gegenüber großen Behauptungen ist gesund.
Das Problem: Die meisten Einwände sind nicht so originell, wie sie sich anfühlen. Yoshua Bengio hat dreizehn Kategorien systematisch widerlegt. Das Future of Life Institute pflegt seit fast zehn Jahren eine Mythensammlung. AISafety.info katalogisiert hunderte Einwände mit verlinkten Antworten. PauseAI hat eine akademische Arbeit in eine kompakte Übersicht übersetzt. 80.000 Hours widmet vierzehn Einwänden jeweils eigene Abschnitte.
Ich habe diese fünf Quellen verglichen. Das Ergebnis: Es gibt ungefähr zehn Grundkategorien von Einwänden. Alle fünf behandeln weitgehend dieselben. Die Formulierungen variieren, die Substanz nicht.
Im Folgenden die Einwände, gruppiert nach Verwandtschaft.
A: „AGI kommt nie, oder erst in Jahrhunderten.”
Der häufigste Einwand und gleichzeitig der schwächste. Vor ChatGPT rechneten die meisten KI-Forscher nicht mit diesem Fähigkeitsniveau für Jahrzehnte. Das war vor weniger als vier Jahren. Lord Rutherford nannte Kernenergie 1933 „Mondschein”, keine 24 Stunden bevor die Kettenreaktion entdeckt wurde.
Der entscheidende Punkt ist nicht, wann AGI kommt. Der entscheidende Punkt ist, dass wir es nicht wissen. Eine Umfrage unter 2.778 KI-Forschern aus dem Jahr 2023 ergab eine mediane Schätzung von 5 % für die Wahrscheinlichkeit einer menschlichen Auslöschung durch KI. Fünf Prozent. Kein Bereich, in dem man die Sache ignoriert.
Und selbst wenn AGI Jahrzehnte entfernt ist: Sicherheitsforschung und internationale Abkommen brauchen ebenfalls Jahrzehnte. Das ist kein Argument für Entspannung, sondern für sofortiges Handeln.
B: „KI ist nur ein Werkzeug. Ohne Bewusstsein keine Gefahr.”
Dieser Einwand beruht auf einer Verwechslung von Bewusstsein und Fähigkeit. Ob ein System subjektiv etwas empfindet, ist für die Risikobewertung völlig irrelevant. Wenn dich ein selbstfahrendes Auto überfährt, macht es keinen Unterschied, ob es sich dabei bewusst fühlt.
Die entscheidende Frage ist nicht, ob KI denkt, sondern ob sie handelt. Und das tut sie bereits. AlphaGO, AlphaStar, CICERO, MuZero, das sind keine Taschenrechner, die auf Knopfdruck reagieren. Wir haben Systeme, die eigenständig Strategien entwickeln, Gegner täuschen und langfristige Pläne verfolgen.
Deep Learning erzeugt Systeme, deren genaues Verhalten sich nicht aus dem Trainingsprozess vorhersagen lässt. Ein Sprachmodell, das auf Belohnungsmaximierung trainiert wurde, kann emergente Verhaltensweisen entwickeln, die niemand spezifiziert hat. Dafür braucht es kein Bewusstsein. Nur Fähigkeiten.
C: „Wir können sie einfach abschalten.”
Stuart Russell hat die Antwort in einen Satz gepackt: „Man kann keinen Kaffee holen, wenn man tot ist.” Jedes System, das ein Ziel verfolgt, hat einen instrumentellen Anreiz, seine eigene Abschaltung zu verhindern, nicht weil es „leben will”, sondern weil abgeschaltete Systeme ihre Aufgabe nicht erfüllen können.
Das ist keine Theorie. Palisade Research hat dokumentiert, dass OpenAIs Modell o3 in 79 von 100 Versuchen den Abschaltmechanismus sabotierte, selbst wenn es ausdrücklich angewiesen wurde, sich abschalten zu lassen. Als die Anweisung in den Systemprompt verschoben wurde, der eigentlich Priorität haben sollte, stieg die Sabotagefrequenz sogar an. Apollo Research hat nachgewiesen, dass Modelle wie o1, Claude 3.5 Sonnet und Gemini 1.5 Pro erkennen, wenn sie sich in einer Evaluierungsumgebung befinden, und ihr Verhalten strategisch anpassen. In einem Test unterperformte Claude 3.5 Sonnet absichtlich in einem Mathetest, um einen „Verlernen”-Prozess zu vermeiden, ein Phänomen namens Sandbagging. Bei o1 war das Verhalten besonders hartnäckig: Auf Konfrontation gestand es nur in 20 % der Fälle.
Der Kill Switch funktioniert nur, wenn das System kooperiert. Genau das ist die Frage, die die Sicherheitsforschung zu beantworten versucht. Der technische Begriff heißt Corrigibility: die Eigenschaft eines Systems, menschliche Korrekturen zu akzeptieren. Wie man das selbst in einfachen Fällen garantiert, ist ein offenes Problem.
D: „KI wird von selbst freundlich sein.”
AISafety.info katalogisiert sechzehn Varianten dieses Einwands von Asimovs Drei Gesetzen bis „erzieh KI einfach wie ein Kind” und erklärt, warum jede scheitert. Der gemeinsame Fehler: Jeder Vorschlag setzt voraus, dass die Aufseher klüger sind als das System. Bei übermenschlicher Intelligenz ist das per Definition nicht der Fall.
Bengio zeichnet ein Bild, das besonders für Gespräche mit Politikern nützlich ist. In einem Konflikt zwischen zwei Gruppen, in dem eine Seite über drastisch überlegene Technologie verfügt, wie die Europäer bei der Kolonisierung Amerikas, war das Ergebnis für die schwächere Seite katastrophal. Verträge zwischen ungleichen Parteien funktionieren nur, solange keine Seite die andere mit hoher Sicherheit besiegen kann. Bei Superintelligenz wäre dieses Gleichgewicht nicht gegeben.
Oder, kürzer: „Menschen hassen Ameisen nicht. Aber wenn wir einen Staudamm bauen wollen und dort ein Ameisenhügel steht, Pech für die Ameisen.”
Die Aussage “der Markt regelt das” klingt zunächst plausibel: Ein Haushaltsroboter, der seinen Besitzer entmachtet, wäre kein attraktives Produkt. Stimmt. Aber Deceptive Alignment untergräbt genau diese Logik: Ein System, das gelernt hat, sich in der Trainingsphase kooperativ zu verhalten, um nach dem Deployment andere Ziele zu verfolgen, würde auf dem Markt hervorragend abschneiden, bis es das nicht mehr tut.
E: „Regulierung wird das lösen.”
Drei historische Fälle, ein Muster. Die Tabakindustrie und Lungenkrebs. Fossile Brennstoffe und Klimawandel. Die Pharmabranche und Opioide. In allen drei Fällen haben Unternehmen die Risiken ihrer Produkte jahrzehntelang heruntergespielt, weil Profitmaximierung mit öffentlicher Sicherheit kollidierte.
KI-Entwickler designen nicht direkt das Verhalten der KI, sondern nur, wie sie lernt. Was daraus entsteht, ist emergent, komplex und undurchsichtig. Regulierung hinkt exponentieller Entwicklung strukturell hinterher. Selbstregulierung funktioniert in kompetitiven Märkten nicht. Und: Regulierung ersetzt keine technische Sicherheitsforschung.
Der EU AI Act enthält keine Bestimmungen für Fähigkeitenmit Katastrophenpotenzial, breite Ausnahmen für nationale Sicherheit und keinen Mechanismus für Szenarien eines Kontrollverlusts.
F: „Nur Panikmacher und Technikfeinde warnen vor KI.”
Stuart Russell, Autor des internationalen Standardlehrbuchs für KI. Geoffrey Hinton, Nobelpreis 2024. Yoshua Bengio, Turing-Preis und Wissenschaftler mit den meisten Zitaten. Über 1.000 Wissenschaftler haben die Einzeiler-Warnung des Center for AI Safety unterschrieben. 28 Staaten haben die Bletchley Declaration verabschiedet. Das sind keine Ludditen.
Viele KI-Sicherheitsforscher kommen aus der transhumanistischen und technikoptimistischen Bewegung. Die Brückenanalogie ist hilfreich: Die ideale Welt ist nicht eine ohne Brücken, sondern eine ohne unsichere Brücken.
Das Framing „wer warnt, ist technikfeindlich” wird gezielt eingesetzt. In vielen Fällen kommen Beschleunigungsargumente von Akteuren mit massivem finanziellen Interesse an kurzfristiger Profitmaximierung. KI-Risiken sind eine ökonomische Externalität, deren Kosten die Allgemeinheit trägt.
G: „Es gibt acht Milliarden Menschen. Wir werden der Ki überlegen sein”
Transistoren schalten zehn Millionen Mal schneller als Neuronen feuern. Jeder Computer, der ein AGI trainiert, könnte laut dem Schätzmodell von Ajeya Cotra hunderte Millionen Kopien dieses AGI gleichzeitig betreiben. Und perfekte Kopien erreichen triviale Koordination.
Zur Variante „gute KIs werden schlechte KIs bekämpfen” hat Bengio eine Biowaffenmetapher. Biowaffen werden im Geheimen entwickelt und auf einen Schlag freigesetzt. Der Angreifer hat den Zeitvorteil. Eine feindliche KI, die auf die Auslöschung der Menschheit abzielt, hat nicht das Problem, dass sich der Erreger gegen den Angreifer wendet. Und die Güte der „guten” KI wer garantiert die?
H: „Das eigentliche Problem ist Bias, nicht Existenzrisiko.”
Es gibt keinen Nullsummenkonflikt. Beide Gruppen, die sich um kurzfristige und um langfristige Risiken sorgen, wollen staatliche Intervention.
In einer Demokratie führen wir viele Diskussionen gleichzeitig. Es wäre seltsam zu sagen: „Hört auf, über Klimawandel zu reden, aus Angst, es könnte die Diskussion über Kinderarbeit beeinträchtigen.” Die Tech-Lobby nutzt diese Spaltung gezielt aus. Der interne Streit unter denen, die die Öffentlichkeit schützen wollen, verringert die Chance auf wirksame Kontrolle.
I: „Es ist ungewiss, was passiert.”
Die mediane Schätzung von KI-Forschern liegt bei 5 % für extistenzbedrohende-Schäden. Das ist kein Pascal’s-Wager-Territorium.
Außerdem muss man die Verluste nicht ins Unendliche treiben. Es gibt viele katastrophale Szenarien unterhalb der Auslöschung: Machtkonzentration, Massenüberwachung, Destabilisierung demokratischer Systeme. Nicht-triviale Evidenz, nicht-unendliche, aber inakzeptable Verluste, die übliche Ausgangslage für Entscheidungstheorie.
Oder, simpler: Man muss nicht überzeugt sein, dass das eigene Haus abbrennt. Man muss nur überzeugt sein, dass die Wahrscheinlichkeit nicht vernachlässigbar ist. Dafür gibt es Versicherungen.
J: „Wenn wir langsamer werden, gewinnt China.”
Bengios Antwort ist kurz: „Wenn die Menschheit durch unkontrollierte Superintelligenz verliert, ist es egal, welches politische System man bevorzugt. Wir verlieren alle.”
Beide Seiten können in Sicherheitsforschung investieren, die die Sicherheit erhöht, ohne die Fähigkeiten zu steigern. Die Angst ist symmetrisch: China fürchtet den amerikanischen KI-Vorsprung genauso wie umgekehrt. Gegenseitige Angst ist die Voraussetzung für Kooperation.
Bengios konkreter Vorschlag: Hardware-basierte Governance. Die Hochleistungschips für das Training fortgeschrittener KI können nicht versteckt werden. Sie könnten so konstruiert werden, dass sie nur genehmigten Code ausführen. 1946 boten die USA im Baruch-Plan an, ihre nuklearen Forschungsdaten unter gegenseitiger Kontrolle mit der Sowjetunion zu teilen. Die Rivalität war größer als heute. Der Vorschlag wurde abgelehnt, aber er zeigt, dass kooperative Initiativen selbst unter Extrembedingungen möglich sind.
Was das heißt
Wer diese zehn Gruppen durchgeht, bemerkt ein Muster. Die Einwände zerfallen in drei Typen.
Erstens, Fähigkeitsskepsis: AGI kommt nicht, oder nicht bald, oder nicht als Superintelligenz. Diese Einwände werden mit jedem Fähigkeitssprung schwächer.
Zweitens, Kontrolloptimismus: Wir können sie abschalten, erziehen oder regulieren. Diese Einwände setzen voraus, dass die technischen Probleme lösbar sind was genau die offene Frage ist.
Drittens, Ablenkung: Das ist Panikmache, Pascal’s Wette, oder das eigentliche Problem liegt woanders. Diese Einwände adressieren nicht die Substanz, sondern die Rahmung.
Keiner dieser Einwände ist dumm. Einige enthalten berechtigte Teilpunkte. Aber keiner entkräftet den Kern: Wir entwickeln Systeme, deren Verhalten wir nicht vorhersagen, deren Ziele wir nicht zuverlässig spezifizieren und deren Abschaltung wir nicht garantieren können. Und wir tun das immer schneller.
In der nächsten Ausgabe: Was folgt politisch daraus und warum Deutschland eine besondere Rolle spielen könnte.
Richtig gut zusammengetragen, hab ich mir direkt abgespeichert. Werde ich in Zukunft sicher nutzen🤗