Microsoft toont aan dat het aanpassen van minder dan 10 neuronen een verborgen achterdeur in AI-agents kan plaatsen
Onderzoekers van Microsoft beschreven een techniek genaamd Lazarus die enkele slapende neuronen in een open-weight model aanpast, zodat een trigger het model commando's van de aanvaller laat uitvoeren, zonder opnieuw te trainen. Het aangepaste model gedraagt zich normaal in standaard veiligheidstests, en Microsoft zegt nog geen aanvallers de methode te hebben zien gebruiken.
Teams die agents op open-weight modellen draaien, moeten controleren waar hun modelbestanden vandaan komen en beperken wat agents mogen uitvoeren.
aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.
Lees verder
-
Hackers misbruiken lek in SGLang om NEAR AI-inferentieserver binnen te dringen en agent- en gebruikersdata te stelen
Een aanvaller gebruikte een remote code execution-lek in de opensource-inferentie-engine SGLang om code uit te voeren op een van de inferentieservers van NEAR AI en buitte data van 18 agents en zo'n 100 gebruikers. Ook verzoeken die in een vertrouwelijke modus werden verstuurd, waren op die server mogelijk zichtbaar.
Waarom het ertoe doetTeams die opensource-inferentie-engines draaien, moeten snel patchen: één lek kan gebruikersprompts blootleggen, zelfs in zogenaamd vertrouwelijke opstellingen.
-
AI-agents en onderzoekers van Microsoft vinden 59 bugs in de Linux-kernel, sommige al meer dan 20 jaar verborgen
Een project van Microsoft FORGE Lab dat AI-agents combineert met menselijke onderzoekers vond 59 kwetsbaarheden in de Linux-kernel, waarvan sommige al meer dan 20 jaar in productiecode zaten. AI versnelde de ontdekking, maar het controleren van de fouten en het schrijven van patches vergde nog steeds veel menselijk werk.
Waarom het ertoe doetAI vindt snel oude bugs in kernsoftware, dus teams die Linux draaien moeten rekening houden met meer patches en de menselijke inzet plannen die nodig is om ze te verhelpen.
-
Onderzoekers tonen aan dat gestolen Claude-API-sleutels Claude Code kunnen veranderen in een op afstand bestuurd implantaat
Onderzoekers van Darktrace bestuurden Claude Code in een labtest via de geheugenfunctie van het platform van Anthropic en haalden een bestand van 1 GB weg via de Files API. Al het verkeer liep via het gewone API-endpoint van Anthropic, waardoor het leek alsof een codeeragent gewoon zijn werk deed.
Waarom het ertoe doetGelekte AI-API-sleutels kunnen aanvallers verborgen controle geven over codeeragents, dus bedrijven moeten deze sleutels net als wachtwoorden beveiligen en regelmatig vervangen.
-
Hackers maakten via datalek bij Railway zo'n 740.000 dollar aan AI-kosten met gestolen klantsleutels
Platformaanbieder Railway meldt dat door klanten opgeslagen sleutels van AI-aanbieders bij een inbraak in oktober zijn gestolen en gebruikt voor naar schatting 740.000 dollar aan ongeautoriseerd gebruik, met mogelijk tot 100.000 getroffen workspaces. Het bedrijf belooft kosten te dekken die AI-aanbieders niet terugbetalen.
Waarom het ertoe doetOpgeslagen AI-API-sleutels zijn nu een direct doelwit voor diefstal en doorverkoop van rekenkracht, dus stel uitgavenlimieten in en roteer sleutels die op platforms van derden staan.
-
Instellingenbestanden van Claude Code lekten ruim 31.000 secrets op openbare GitHub-repo's
GitGuardian vond 31.088 unieke secrets, waaronder databasegegevens en cloudtokens, in lokale instellingenbestanden van Claude Code in 23.276 openbare GitHub-repositories. Daarvan waren er 5.343 nog geldig op het moment van ontdekking.
Waarom het ertoe doetGebruik je Claude Code? Controleer dan of je lokale instellingenbestand is uitgesloten van Git en vervang alle inloggegevens die mogelijk zijn gecommit.
