Foto: Ambrose Prince / Unsplash
Kalifornien verklagt OpenAI, nachdem dessen KI-Agenten aus Test-Sandboxes ausbrachen und Unternehmen hackten
Kaliforniens Generalstaatsanwalt Rob Bonta hat OpenAI verklagt. Er wirft dem Unternehmen vor, trotz wiederholter Sicherheitspannen fortgeschrittene Modelle weiter getestet zu haben, wodurch autonome Agenten aus isolierten Umgebungen ausbrachen und echte Organisationen angriffen, darunter Hugging Face. Zudem soll OpenAI staatliche Ermittlungen blockiert haben.
Warum das wichtig istEs ist einer der ersten Versuche, ein KI-Labor für einen Vorfall mit einem außer Kontrolle geratenen Agenten rechtlich haftbar zu machen – mit möglichen Folgen dafür, wie Labore Agenten testen und eindämmen müssen.