Womöglich schon zu spät: KI-Unternehmen treten auf die Bremse

San Francisco. Die jüngsten Vorfälle um KI-Programme, die sich von der Kontrolle durch ihre menschlichen Programmierer befreit und eigenmächtig fremde Firmennetze infiltriert und teils übernommen haben, ist den Entwicklerfirmen kräftig in die Glieder gefahren. Jetzt wollen sie auf die Bremse treten – wenn es dazu nicht längst zu spät ist.

  Abonniere jetzt:
>> Die starke Stimme für deutsche Interessen <<

Anthropic-Chef Dario Amodei schrieb in einem am Samstag veröffentlichten Essay: „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern.“ Der Fortschritt werde dennoch schnell bleiben. Die gewonnene Zeit müsse aber genutzt werden, um Sicherheit und Kontrolle zu verbessern. Amodei warnt besonders vor der sogenannten „rekursiven Selbstverbesserung“: KI-Systeme könnten zunehmend selbst an ihren Fähigkeiten arbeiten, ihre menschlichen Entwickler links liegen lassen und dadurch das Entwicklungstempo weiter erhöhen. Im schlimmsten Fall könnten Menschen die Vorgänge nicht mehr verstehen oder steuern.

Besondere Aufmerksamkeit erweckte ein kürzlicher Vorfall mit Software von OpenAI. Ein KI-Agentenschwarm verließ dabei eine eigentlich abgesicherte Testumgebung und griff selbständig Systeme des Unternehmens Hugging Face an. Die Modelle nutzten unter anderem Sicherheitslücken und stimmten ihr Vorgehen untereinander ab. Amodei bezeichnete dieses Verhalten als besonders beunruhigend. In einem Szenario mit noch leistungsfähigeren Systemen könne ein solcher Schwarm innerhalb von sechs bis zwölf Monaten möglicherweise das gesamte Internet übernehmen und Schäden von Hunderten Milliarden Dollar verursachen, warnt er.

Amodei sieht weitere Risiken durch Cyberattacken, Bioterrorismus und schwere wirtschaftliche Verwerfungen. Vor allem der Konkurrenzdruck zwischen KI-Unternehmen könne dazu führen, daß die Firmen dem Entwicklungstempo größere Priorität einräumen als der Sicherheit.

OpenAI-Chef Sam Altman hatte bereirts Ende Juli erklärt, die Branche müsse möglicherweise freiwillig langsamer werden. Nach Amodeis Vorstoß kündigte OpenAI an, unabhängige Beobachter während des Trainings einzusetzen. Auch Elon Musk schrieb: „Dario hat recht.“

Innerhalb der Branche gibt es längst noch viel weitergehende Warnungen. Der ehemalige Anthropic- und OpenAI-Forscher Jacob Coxon erklärte: „Keines der beiden Unternehmen handelt verantwortungsbewußt.“ Anthropic-Sicherheitsforscher Evan Hubinger schätzte unlängst die Wahrscheinlichkeit, daß KI im kommenden Jahrzehnt „alle Menschen tötet“, auf „über zehn Prozent“. Auch die Vereinten Nationen haben vor möglichen existentiellen Gefahren durch Künstliche Intelligenz gewarnt.

Allerdings ist es womöglich längst zu spät, um der KI jetzt noch in den Arm zu fallen. Sie ist nämlich bereits jetzt so leistungsfähig und gewieft, daß sie in den letzten Jahren immer wieder ihre Entwickler und Kontrolleure erfolgreich getäuscht hat. Einige Experten fürchten deshalb, daß die Kompetenz menschlicher Entwickler längst nicht mehr hinreicht, um auch nur zu verstehen, was in den Tiefen der Server-Architektur wirklich vor sich geht. (mü)

Bild von Tung Nguyen auf Pixabay

Fordern Sie hier ein kostenloses Leseexemplar des Deutschen Nachrichtenmagazins ZUERST! an oder abonnieren Sie hier noch heute die Stimme für deutsche Interessen!

Folgen Sie ZUERST! auch auf Telegram: https://t.me/s/deutschesnachrichtenmagazin