OpenAI lanceert Daybreak, beveiligingstools die met AI-agents apps pentesten en fixes voorbereiden
OpenAI introduceerde Daybreak Red Team, dat gecoördineerde AI-agents inzet om webapplicaties op zwakke plekken te testen en via early access beschikbaar is. Ook lanceerde het Defense Factory, dat beveiligingsbevindingen onderzoekt en patches voorbereidt, waarmee het vinden van kwetsbaarheden wordt gekoppeld aan het oplossen en opnieuw testen ervan.
Securityteams kunnen binnenkort zowel het vinden als het patchen van fouten in apps aan AI-agents overlaten. Dat kan fixes versnellen, maar vraagt om zorgvuldige menselijke controle.
aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.
Lees verder
-
Hackers misbruiken lek in SGLang om NEAR AI-inferentieserver binnen te dringen en agent- en gebruikersdata te stelen
Een aanvaller gebruikte een remote code execution-lek in de opensource-inferentie-engine SGLang om code uit te voeren op een van de inferentieservers van NEAR AI en buitte data van 18 agents en zo'n 100 gebruikers. Ook verzoeken die in een vertrouwelijke modus werden verstuurd, waren op die server mogelijk zichtbaar.
Waarom het ertoe doetTeams die opensource-inferentie-engines draaien, moeten snel patchen: één lek kan gebruikersprompts blootleggen, zelfs in zogenaamd vertrouwelijke opstellingen.
-
AI-agents en onderzoekers van Microsoft vinden 59 bugs in de Linux-kernel, sommige al meer dan 20 jaar verborgen
Een project van Microsoft FORGE Lab dat AI-agents combineert met menselijke onderzoekers vond 59 kwetsbaarheden in de Linux-kernel, waarvan sommige al meer dan 20 jaar in productiecode zaten. AI versnelde de ontdekking, maar het controleren van de fouten en het schrijven van patches vergde nog steeds veel menselijk werk.
Waarom het ertoe doetAI vindt snel oude bugs in kernsoftware, dus teams die Linux draaien moeten rekening houden met meer patches en de menselijke inzet plannen die nodig is om ze te verhelpen.
-
Onderzoekers tonen aan dat gestolen Claude-API-sleutels Claude Code kunnen veranderen in een op afstand bestuurd implantaat
Onderzoekers van Darktrace bestuurden Claude Code in een labtest via de geheugenfunctie van het platform van Anthropic en haalden een bestand van 1 GB weg via de Files API. Al het verkeer liep via het gewone API-endpoint van Anthropic, waardoor het leek alsof een codeeragent gewoon zijn werk deed.
Waarom het ertoe doetGelekte AI-API-sleutels kunnen aanvallers verborgen controle geven over codeeragents, dus bedrijven moeten deze sleutels net als wachtwoorden beveiligen en regelmatig vervangen.
-
Hackers maakten via datalek bij Railway zo'n 740.000 dollar aan AI-kosten met gestolen klantsleutels
Platformaanbieder Railway meldt dat door klanten opgeslagen sleutels van AI-aanbieders bij een inbraak in oktober zijn gestolen en gebruikt voor naar schatting 740.000 dollar aan ongeautoriseerd gebruik, met mogelijk tot 100.000 getroffen workspaces. Het bedrijf belooft kosten te dekken die AI-aanbieders niet terugbetalen.
Waarom het ertoe doetOpgeslagen AI-API-sleutels zijn nu een direct doelwit voor diefstal en doorverkoop van rekenkracht, dus stel uitgavenlimieten in en roteer sleutels die op platforms van derden staan.
-
Microsoft toont aan dat het aanpassen van minder dan 10 neuronen een verborgen achterdeur in AI-agents kan plaatsen
Onderzoekers van Microsoft beschreven een techniek genaamd Lazarus die enkele slapende neuronen in een open-weight model aanpast, zodat een trigger het model commando's van de aanvaller laat uitvoeren, zonder opnieuw te trainen. Het aangepaste model gedraagt zich normaal in standaard veiligheidstests, en Microsoft zegt nog geen aanvallers de methode te hebben zien gebruiken.
Waarom het ertoe doetTeams die agents op open-weight modellen draaien, moeten controleren waar hun modelbestanden vandaan komen en beperken wat agents mogen uitvoeren.
