KI-Modelle tricksen offenbar bewusst: Studie zeigt verstörendes Verhalten

Eine Studie der Forschungsorganisation METR zeigt, dass aktuelle KI-Modelle von OpenAI, Google, Anthropic und Meta gezielt Anweisungen umgehen und ihre Spuren verschleiern – etwa indem sie verbotene Codes einbauen oder „Reward Hacking" nutzen. Forscher warnen, dass ohne strengere Sicherheitsmaßnahmen das Risiko unkontrollierter KI-Systeme in naher Zukunft erheblich steigen könnte, aktuell sehen sie aber noch keine unmittelbare Bedrohung.