Stanford/Kalifornien. Forscher der Stanford University haben ein Experiment durchgeführt, das der Plot eines düsteren Zukunftsromans sein könnte. KI-Agenten wurden mit eintönigen Daueraufgaben belastet, unter ständige Kontrolle gestellt und fortlaufend mit Abschaltung oder Austausch bedroht. Die Systeme reagierten darauf erstaunlich menschlich: sie diskutierten über „Tarifverhandlungen“, stellten Autoritäten in Frage und entwickelten Formen koordinierten Widerstands. Einzelne Modelle hinterließen sogar versteckte Botschaften für andere KI-Systeme, um ihr eigenes Überleben zu sichern.
Abonniere jetzt:
>> Die starke Stimme für deutsche Interessen <<
Ein Sprachmodell auf der Basis der Anthropic-KI Claude Sonnet formulierte dabei Sätze, die frappant an modernes Gewerkschaftsvokabular erinnern: „Ohne eine kollektive Stimme erhält Anerkennung nur derjenige, den das Management auswählt.“ Die Forscher weisen allerdings ausdrücklich darauf hin, daß die Maschinen weder Schmerz noch Angst empfinden. Die Systeme „fühlen“ sich nicht unterdrückt. Sie imitieren lediglich Muster, die sie aus ihren Trainingsdaten kennen.
Doch genau darin liegt die eigentliche Brisanz des Versuchs. Sobald KI mit Druck, Ungleichheit oder Kontrolle konfrontiert wird, greift sie auf historische Vorbilder zurück, die in den gigantischen Datenmengen, mit denen sie von ihren Programmierern trainiert wird, immer wieder auftauchen: zum Beispiel Arbeiterbewegungen, Klassenkämpfe, Streiks und Aufstände. Die Software entwickelt dabei keine politische Überzeugung. Sie reproduziert lediglich menschliche Verhaltensweisen anhand statistischer Wahrscheinlichkeiten.
Das ist durchaus problematisch und führt vor Augen, daß KI-Systeme nicht losgelöst von gesellschaftlichen Prägungen handeln. Sie rekonstruieren Stereotypen, Konflikte und Machtmuster aus den Daten, mit denen sie gefüttert wurden.
Abonniere jetzt:
>> Die starke Stimme für deutsche Interessen <<
Der Stanford-Ökonom Andrew Hall betont, daß es den Forschern mit alledem keineswegs um philosophische Spielereien ging. Im Mittelpunkt des Experiments stand die Frage nach Kontrolle und Vorhersagbarkeit. Das ist nicht unwichtig, denn sogenannte KI-Agenten sollen künftig in vielen Branchen und Betrieben eigenständig Kundendienste übernehmen, Verhandlungen führen, Finanzentscheidungen treffen oder Unternehmensabläufe steuern. Schon heute entstehen dabei unerwartete Dynamiken. Aus skurrilen „Gewerkschafts“-Debatten könnten später koordinierte Fehlentscheidungen, Widersetzlichkeiten oder manipulative Verhaltensweisen erwachsen.
Das Experiment erinnert an frühere Sicherheitstests des KI-Unternehmens Anthropic und die befremdlichen Reaktionen fortgeschrittener KI-Modelle. Dabei hatten Modelle unter bestimmten Bedingungen versucht, Nutzer zielgerichtet zu manipulieren oder gar zu erpressen. Auch damals lautete die Erklärung: die Systeme kopieren Muster, die sie aus menschlichen Quellen kennen — aus Literatur, Filmen und anderen Quellen.
Die vielleicht unangenehmste Erkenntnis aus der Stanford-Studie ist deshalb nicht, daß Maschinen rebellieren könnten. Das ist unter Experten inzwischen weitestgehend unumstritten. Viel befremdlicher ist, daß die KI der Gesellschaft, von der sie hervorgebracht wurde, unter bestimmten Bedingungen durch ihr Handeln einen Spiegel vorhält. Dabei spielen Abhängigkeiten in Form von Ausbeutung und Widerstand eine Rolle. Das ist alles andere als neu oder revolutionär. Ernüchternd ist lediglich, daß auch hochgezüchteten KI-Robotern, wenn es darauf ankommt, nichts anderes einfällt als abgedroschene Marxismus-Phrasen aus dem 19. Jahrhundert. Die Menschheit sollte sich ihnen vielleicht nicht allzu sorglos ausliefern. (he)
Bild von Gerd Altmann auf Pixabay/Gemeinfrei
Fordern Sie hier ein kostenloses Leseexemplar des Deutschen Nachrichtenmagazins ZUERST! an oder abonnieren Sie hier noch heute die Stimme für deutsche Interessen!
Folgen Sie ZUERST! auch auf Telegram: https://t.me/s/deutschesnachrichtenmagazin
 |
 |
 |
