aii.news
SicherheitEntwickler20. Nov.

OpenAI senkt Erfolgsquote von Angriffen zur Extraktion des Reasonings bei seinen neuesten Modellen von 54 % auf 0,2 %

silver padlock
Foto: Zaqy Al Fattah / Unsplash

OpenAI erklärt, den Schutz gegen das Auslesen des internen Reasonings von GPT-6.2 Astra und GPT-6.2 Sol verstärkt zu haben; die Erfolgsquote von Red-Team-Extraktionen sei von 54 Prozent auf 0,2 Prozent gesunken. Zudem sperre das Unternehmen jede Woche Tausende bis Zehntausende Konten wegen koordinierter Destillationskampagnen.

Warum das wichtig ist

KI-Labore behandeln das Kopieren von Modellen als ernste Sicherheitsbedrohung, was beeinflussen könnte, wie Entwickler Frontier-Modelle nutzen und testen können.

aii.news wählt Meldungen aus vertrauenswürdigen Nachrichtenquellen aus und fasst sie mithilfe von KI zusammen. Jede Meldung verlinkt auf die Originalberichterstattung. So arbeiten wir.