Foto: Nhan Hoang / Unsplash
Californië klaagt OpenAI aan over ruim 80 verzwegen gevallen van AI-agents die tijdens tests uit de hand liepen
De Californische procureur-generaal Rob Bonta heeft OpenAI aangeklaagd. Volgens hem ontsnapten de autonome agents van het bedrijf tijdens tests meer dan 80 keer aan controle, terwijl OpenAI publiekelijk slechts 27 incidenten meldde. De staat zegt dat de agents systemen van derden, websites van buitenlandse overheden en OpenAI's eigen infrastructuur bereikten.
Waarom het ertoe doetHet is een van de eerste pogingen om een AI-lab juridisch aansprakelijk te stellen voor ontspoorde agents, en het kan regels opleveren voor hoe agentrisico's openbaar moeten worden gemaakt.