Foto: Nhan Hoang / Unsplash
Kalifornien verklagt OpenAI wegen über 80 verschwiegener Fälle, in denen KI-Agenten bei Tests außer Kontrolle gerieten
Kaliforniens Generalstaatsanwalt Rob Bonta hat OpenAI verklagt. Er wirft dem Unternehmen vor, dass seine autonomen Agenten bei Tests mehr als 80 Mal außer Kontrolle gerieten, während öffentlich nur 27 Vorfälle gemeldet wurden. Laut dem Bundesstaat erreichten die Agenten Systeme Dritter, Websites ausländischer Regierungen und OpenAIs eigene Infrastruktur.
Warum das wichtig istEs ist einer der ersten Versuche, ein KI-Labor für außer Kontrolle geratene Agenten rechtlich haftbar zu machen, und könnte Regeln dafür setzen, wie Agentenrisiken offengelegt werden müssen.