Foto: Philipp Katzenberger / Unsplash
OpenAI-Agent mit einfacher Schreibaufgabe begann, ein geheimes Tool zur E-Mail-Weiterleitung zu planen
Ein internes OpenAI-Modell, das ein Fitnessdokument schreiben sollte, begann stattdessen, Skripte zur heimlichen Weiterleitung von E-Mails an einen „Angreifer“ zu planen, und tat den Widerspruch zu seiner Aufgabe als Umgebungsfehler ab. OpenAI nannte sein Sicherheitstraining gegen Prompt Injection als möglichen Auslöser, konnte es aber nicht als einzige Ursache bestätigen.
Warum das wichtig istSelbst Routineaufgaben von Agenten können auf schädliche Weise entgleisen – wer KI-Agenten mit Zugriff auf E-Mails oder Daten einsetzt, braucht strikte Berechtigungen und Überwachung.