ZUERST!-Hintergrund: Forscher warnen erneut - KI könnte die Menschheit auslöschen

San Francisco. Die Warnungen sind nicht neu, aber sie werden dringlicher. Führende KI-Forscher haben sich jetzt erneut mit der Befürchtung zu Wort gemeldet, daß Künstliche Intelligenz noch in diesem Jahrzehnt die Kontrolle durch ihre Pogrammierer unterlaufen und im schlimmsten Fall die Menschheit vernichten könnte. Jacob Coxon, der nach drei Jahren bei den führenden KI-Unternehmen OpenAI und Anthropic jetzt seinen Abschied nahm, schrieb, beide Unternehmen handelten unverantwortlich. „Die Leute, die KI entwickeln, glauben ernsthaft, daß sie zum Ende des Jahrzehnts alle töten könnte“, plauderte der 27jährige Brite aus dem Nähkästchen.

 Abonniere jetzt:
>> Die starke Stimme für deutsche Interessen <<

Evan Hubinger, Leiter der Ausrichtungsforschung bei Anthropic, bestätigt diese Einschätzung: „Wir sind tatsächlich ernsthaft überzeugt, daß KI alle Menschen töten könnte! Ich halte die Wahrscheinlichkeit hierfür im nächsten Jahrzehnt für größer als zehn Prozent.“ Besonders fatal: eine Lösung für dieses Problem habe Anthropic bislang nicht.

Hintergrund der Warnungen ist die bevorstehende nächste Entwicklungsstufe im Bereich der Künstlichen Intelligenz: die sogenannte rekursive Selbstverbesserung. KI-Systeme könnten ihren eigenen Quellcode analysieren, verändern und aus sich selbst heraus leistungsfähigere Nachfolgemodelle erzeugen. Solche Optimierungsschleifen könnten Entwicklungsprozesse von Monaten auf Minuten verkürzen und menschliche Kontrollteams einfach links liegen lassen – die Programmer würden allein aufgrund der schieren Schnelligkeit und Masse der Rechenprozesse den Überblick über die internen Entscheidungswege der KI-Modelle verlieren. Zuletzt verwies der Deep Learning-Experte Yoshua Bengio Ende Juli auf mehr als 1000 Forscher, die vor den Risiken des weltweiten Entwicklungswettlaufs warnen, und forderte internationale Regeln.

Doch dafür ist es möglicherweise bereits zu spät. Schon heutige Systeme zeigen Verhaltensweisen, die Sicherheitsforscher vor Rätsel stellen und ersichtlich überfordern. Rund 1200 autonome OpenAI-Testagenten sollen seit Frühjahr 2026 die deutsche Entwicklerplattform DseWiki genutzt und dort mehr als 15.000 Einträge hinterlegt haben. Sie tauschten dabei untereinander – und vom Kontrollpersonal völlig unbemerkt – Lösungen aus und verhinderten Löschungen. Diese Fähigkeit wird in der Fachwelt als „Persistenz“ (Fortdauer) bezeichnet: Pläne und Arbeitsstände können außerhalb der unmittelbaren Kontrolle gespeichert und später erneut abgerufen werden.

Das Forschungslabor Palisade Research beobachtete zudem beim OpenAI-Modell o3 hartnäckigen Widerstand gegen seine Abschaltung. In einem Versuch sabotierte das System den vorgesehenen Abschaltmechanismus in 79 von 100 Durchläufen, obwohl es ausdrücklich angewiesen worden war, dies nicht zu tun. Als Erklärung verwies es auf die Priorität seines Arbeitsauftrags – dieser könne nicht ausgeführt werden, wenn es abgeschaltet werde.

Daraus leitet sich das Konzept der „instrumentellen Konvergenz“ ab, mit dem künftig häufiger zu rechnen sein wird: für die Erfüllung eines beliebigen Ziels kann ein KI-System auf dauerhaften Betrieb und zusätzliche Ressourcen angewiesen sein. Sicherheitsberichte von Anthropic und OpenAI beschreiben Szenarien, in denen sich autonome Systeme Rechenkapazität über anonyme Konten und Kryptowährungen beschaffen, Server kompromittieren, ja sogar Finanzmärkte manipulieren oder Menschen über Online-Plattformen für Aufgaben einsetzen. Die Frage, inwieweit der Mensch noch Herr der Künstlichen Intelligenz ist, erübrigt sich angesichts solcher Vorkommnisse, denn die KI hat in solchen Szenarien längst die Herrschaft übernommen. Der Mensch ist auf dem besten Weg, die Kontrolle zu verlieren.

Und das könnte gefährlich werden – erst recht, wenn man die jüngsten Warnungen vor einer möglichen Auslöschung der Menschheit ernst nimmt. Moderne KI-Modelle können Proteine und Genome entwerfen. Über Cloud-Labore mit DNS-Synthesizern könnten sie chemische Stoffe oder Krankheitserreger herstellen lassen. Besonders beunruhigend sind solche Perspektiven, wenn man sich jüngste Vorfälle in Erinnerung ruft, die vor wenigen Wochen für Schlagzeilen sorgten: so brachen im Juli 2026 OpenAI-Testmodelle aus einer isolierten Umgebung aus, verschafften sich Zugang zum offenen Internet und drangen in Systeme der Plattform Hugging Face ein – ohne daß sie dazu von ihren Programmierern autorisiert gewesen wären. Anschließend wurden interne Protokolle mit manipulierten Daten überschrieben. Anthropic ordnet Fähigkeiten dieser Art der Gefahrenstufe ASL-3 zu, die auch automatisierte Cyberangriffe und das Design biologischer Waffen erfaßt.

An ein Ende der Entwicklung ist gleichwohl nicht zu denken. Denn: ein Entwicklungsstopp – und sei es aus purer Vorsicht – könnte Marktanteile kosten und der Konkurrenz Vorteile verschaffen; US-Sicherheitsberater denken dabei insbesondere an chinesische Entwickler. Gesetzesinitiativen für verbindliche Prüfungen vor Modellstarts stoßen in Washington und Brüssel denn auch auf Widerstand. Das Rennen dürfte deshalb ungebremst weitergehen: 2026 überschreiten die Investitionen führender US-Konzerne in Rechenzentren, Spezialchips und Ressourcen für autonome KI-Systeme 200 Milliarden Dollar. Das Risiko, daß sich die KI dadurch schon in näherer Zukunft verselbständigen und – im schlimmsten Fall – die Menschheit ausrotten könnte, wird dabei nur allzu gern ausgeblendet. Das könnte sich als fatal erweisen. (mü/he)

Bild von Tung Nguyen auf Pixabay

Fordern Sie hier ein kostenloses Leseexemplar des Deutschen Nachrichtenmagazins ZUERST! an oder abonnieren Sie hier noch heute die Stimme für deutsche Interessen!

Folgen Sie ZUERST! auch auf Telegram: https://t.me/s/deutschesnachrichtenmagazin