OpenAI entwickelt eigenen KI-Hacker: Wie GPT-Red die Modelle des Unternehmens sicherer machen soll

OpenAI hat GPT-Red entwickelt, einen automatisierten Hacker zur Erkennung von Sicherheitslücken in KI-Modellen. Das Tool übertrumpft menschliche Tester deutlich (84 zu 13 Prozent erfolgreiche Angriffe) und entdeckte eine neue Angriffsklasse namens „gefälschte Gedankenkette". OpenAI hält das Tool aus Sicherheitsgründen zurück, um zu verhindern, dass Angreifer es missbrauchen.