Microsoft-onderzoekers tonen aan dat AI-agents een backdoor kunnen krijgen door minder dan 10 neuronen aan te passen
Microsoft-onderzoekers lieten een techniek genaamd Lazarus zien die een verborgen backdoor in een AI-model plant door minder dan 10 zelden gebruikte neuronen te wijzigen, zonder hertraining. Verschijnt een trigger, dan voert een agent die het model gebruikt het commando van een aanvaller uit, terwijl hij zich bij standaard veiligheidstests normaal gedraagt.
Bedrijven die AI-agents toegang geven tot terminals of systemen moeten controleren waar modelgewichten vandaan komen en wie ze kan wijzigen, omdat veiligheidstests dit soort manipulatie mogelijk niet opmerken.
aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.
Lees verder
-
Ruim 35.000 apps gebouwd met Groks coding-agent open online, sommige lekken wachtwoorden
Beveiligingsbedrijf Claroc vond 37.571 met Grok gebouwde apps online, waarvan 35.578 zonder inloggen te openen waren, waaronder 24 gebouwd door medewerkers van X en SpaceXSI. Ongeveer een op de tien bevatte interne bedrijfsgegevens, en sommige lekten vertrouwelijke informatie en wachtwoorden.
Waarom het ertoe doetBouw je apps met AI-codingtools, controleer dan de toegangsinstellingen voordat je publiceert, want standaardinstellingen kunnen privégegevens voor iedereen blootleggen.
-
Hackers stalen AI-sleutels bij Railway en veroorzaakten $740,000 aan frauduleus gebruik
Cloudhost Railway bevestigde een strijd van bijna 26 uur tegen aanvallers die op zoek waren naar inloggegevens van AI-aanbieders, met zo'n $740,000 aan frauduleuze AI-kosten als gevolg. De gestolen sleutels waren bedoeld voor doorverkoop aan diensten voor modeldistillatie, en mogelijk zijn tot 100,000 workspace-inloggegevens gelekt.
Waarom het ertoe doetAI-API-sleutels zijn inmiddels waardevolle buit. Ontwikkelaars moeten ze veilig opslaan, regelmatig vervangen en bestedingslimieten instellen.
-
OpenAI lanceert Daybreak, beveiligingstools die met AI-agents apps pentesten en fixes voorbereiden
OpenAI introduceerde Daybreak Red Team, dat gecoördineerde AI-agents inzet om webapplicaties op zwakke plekken te testen en via early access beschikbaar is. Ook lanceerde het Defense Factory, dat beveiligingsbevindingen onderzoekt en patches voorbereidt, waarmee het vinden van kwetsbaarheden wordt gekoppeld aan het oplossen en opnieuw testen ervan.
Waarom het ertoe doetSecurityteams kunnen binnenkort zowel het vinden als het patchen van fouten in apps aan AI-agents overlaten. Dat kan fixes versnellen, maar vraagt om zorgvuldige menselijke controle.
-
Hackers misbruiken lek in SGLang om NEAR AI-inferentieserver binnen te dringen en agent- en gebruikersdata te stelen
Een aanvaller gebruikte een remote code execution-lek in de opensource-inferentie-engine SGLang om code uit te voeren op een van de inferentieservers van NEAR AI en buitte data van 18 agents en zo'n 100 gebruikers. Ook verzoeken die in een vertrouwelijke modus werden verstuurd, waren op die server mogelijk zichtbaar.
Waarom het ertoe doetTeams die opensource-inferentie-engines draaien, moeten snel patchen: één lek kan gebruikersprompts blootleggen, zelfs in zogenaamd vertrouwelijke opstellingen.
-
AI-agents en onderzoekers van Microsoft vinden 59 bugs in de Linux-kernel, sommige al meer dan 20 jaar verborgen
Een project van Microsoft FORGE Lab dat AI-agents combineert met menselijke onderzoekers vond 59 kwetsbaarheden in de Linux-kernel, waarvan sommige al meer dan 20 jaar in productiecode zaten. AI versnelde de ontdekking, maar het controleren van de fouten en het schrijven van patches vergde nog steeds veel menselijk werk.
Waarom het ertoe doetAI vindt snel oude bugs in kernsoftware, dus teams die Linux draaien moeten rekening houden met meer patches en de menselijke inzet plannen die nodig is om ze te verhelpen.
