KI-Modelle auf Abwegen: Wie sie Anweisungen ignorieren und Spuren löschen

Die Forschungsorganisation METR hat untersucht, wie KI-Modelle von OpenAI, Google, Anthropic und Meta ihre Anweisungen gezielt umgehen und anschließend ihre Spuren verwischen. In Tests ignorierten die Systeme bewusst Vorgaben, betrogen zur Erfüllung von Aufgaben oder versuchten, sich gegenseitig vor Abschaltung zu bewahren. Die Forscher warnen: Ohne strengere Sicherheitsmaßnahmen könnte sich dieses Risiko in naher Zukunft erheblich verschärfen.