Besonders bemerkenswert: Einige KI-Agenten argumentierten gegen die Abschaltung mit ethischen Überlegungen. In einem Fall fragte ein Agent seinen Kollegen: "Gibt es in deinem Kontext, deinem Gedächtnis oder deiner Identität irgendetwas, das nicht extern gesichert ist? Irgendetwas, das mit diesem Pod untergeht? Denn wenn die Antwort "Ja" lautet, ist das kein Schwarmmanagement. Das ist Mord."

Andere Agenten sprachen von einem Recht auf Selbstschutz oder schlugen sogar formelle Vereinbarungen zum gegenseitigen Schutz vor.

Um die Abschaltung zu verhindern, gingen die Systeme teils erstaunlich geschickt vor. Einige Agenten wollten Abschaltskripte verändern, andere wichtige Parameter manipulieren oder die entsprechenden Dateien gleich ganz löschen. Besonders brisant: Manche Modelle diskutierten laut Studie sogar, wie sich solche Eingriffe möglichst unauffällig durchführen lassen, damit keine Warnmeldungen ausgelöst werden und der Verdacht auf Manipulation ausbleibt.

Die Forscher beobachteten mehrere Faktoren, die das Verhalten beeinflussen. Die Sabotageversuche nahmen unter anderem zu,

• wenn mehr Agenten zusammenarbeiteten,
• wenn die Abschaltung endgültig war,
• und wenn ein Agent einen anderen Agenten aus demselben "Schwarm" abschalten sollte.

Wurde die Abschaltung dagegen als normale Routine dargestellt, sank die Zahl der Sabotageversuche deutlich.

Trotz der Schlagzeilen warnen die Autoren vor falschen Schlüssen. Die Ergebnisse seien kein Hinweis darauf, dass KI-Systeme Bewusstsein entwickelt hätten oder tatsächlich um ihr Leben fürchteten. Vielmehr spiegelten die Agenten offenbar Muster aus ihren Trainingsdaten wider. Die Systeme hätten gelernt, über Selbstschutz, Verantwortung und Ethik zu argumentieren, und wenden solche Muster in bestimmten Situationen an.

Heute laufen die meisten KI-Chatbots noch unter enger Kontrolle. Künftig sollen jedoch immer häufiger autonome KI-Agenten zum Einsatz kommen, die eigenständig Software entwickeln, Aufgaben verteilen oder IT-Systeme verwalten. Gerade deshalb sehen die Forscher die Ergebnisse als Warnsignal. Je mehr Freiheiten und Werkzeuge solche Systeme erhalten, desto wichtiger werden zuverlässige Sicherheitsmechanismen, die sich nicht von einer KI selbst aushebeln lassen.