AI-beveiliging

Hoe AI de beveiliging verandert.

Aanvallen met AI, deepfake-fraude en oplichting, aanvallen op AI-systemen, en hoe banken, fintechs en techbedrijven zich verdedigen. Twee keer per dag bijgewerkt.

Foto: Kristijan Arsov / Unsplash

BeveiligingBeleidThe Record ↗12 nov

Vermoedelijk aan Kazachstan gelieerde hackers gebruikten AI-agent om Centraal-Aziatische regeringen te bespioneren

Volgens nieuw onderzoek gebruikten hackers die vermoedelijk banden hebben met Kazachstan een AI-agent om Centraal-Aziatische regeringen te bespioneren. De groep stal gevoelige documenten en drong netwerken van vitale infrastructuur binnen.

Waarom het ertoe doetDoor staten gesteunde groepen zetten AI-agents nu in bij echte spionage, dus regeringen en infrastructuurbeheerders moeten rekening houden met snellere, meer geautomatiseerde aanvallen.

BeveiligingOntwikkelaarsCSO Online ↗12 nov

AI-agents en onderzoekers van Microsoft vinden 59 bugs in de Linux-kernel, sommige al meer dan 20 jaar verborgen

Een project van Microsoft FORGE Lab dat AI-agents combineert met menselijke onderzoekers vond 59 kwetsbaarheden in de Linux-kernel, waarvan sommige al meer dan 20 jaar in productiecode zaten. AI versnelde de ontdekking, maar het controleren van de fouten en het schrijven van patches vergde nog steeds veel menselijk werk.

Waarom het ertoe doetAI vindt snel oude bugs in kernsoftware, dus teams die Linux draaien moeten rekening houden met meer patches en de menselijke inzet plannen die nodig is om ze te verhelpen.
BeveiligingOntwikkelaarsHelp Net Security ↗12 nov

Onderzoekers tonen aan dat gestolen Claude-API-sleutels Claude Code kunnen veranderen in een op afstand bestuurd implantaat

Onderzoekers van Darktrace bestuurden Claude Code in een labtest via de geheugenfunctie van het platform van Anthropic en haalden een bestand van 1 GB weg via de Files API. Al het verkeer liep via het gewone API-endpoint van Anthropic, waardoor het leek alsof een codeeragent gewoon zijn werk deed.

Waarom het ertoe doetGelekte AI-API-sleutels kunnen aanvallers verborgen controle geven over codeeragents, dus bedrijven moeten deze sleutels net als wachtwoorden beveiligen en regelmatig vervangen.
BeveiligingZakelijkDark Reading ↗12 nov

Aanvaller stapte over op AI-gegenereerde scripts om zich binnen minuten door het netwerk van een Amerikaanse retailer te bewegen

Toen handmatig ingetypte commando's niet volstonden om bij een Amerikaanse retailer binnen te dringen, gebruikte de aanvaller AI-gegenereerde scripts. Daardoor kon hij zich binnen enkele minuten door het netwerk bewegen.

Waarom het ertoe doetAI verkort de tijd die verdedigers hebben om een indringer te ontdekken en te stoppen, dus retailers hebben snellere monitoring en respons nodig.
BeveiligingHelp Net Security ↗12 nov

Credential-stuffingbots doen zich voor als populaire AI-agent om beveiliging te omzeilen

In één week in oktober kreeg een online marktplaats meer dan 414.000 bezoeken van verkeer dat zich voordeed als een bekende AI-agent voor consumenten, allemaal gericht op de inlogpagina. In werkelijkheid ging het om een credential-stuffingoperatie die gestolen gebruikersnamen en wachtwoorden testte, en die meer bezoeken telde dan de echte agent.

Waarom het ertoe doetSites die verkeer vertrouwen alleen omdat het zegt een AI-agent te zijn, kunnen zich blootstellen aan accountovernames.
BeveiligingBeleidDark Reading ↗12 nov

Japan stelt noodfinanciering voor cyberbeveiliging voor nu AI-ondersteunde inbraken toenemen

Japan zet in op een noodfinancieringspakket met publiek-private cyberresponsteams en een AI-gericht team onder leiding van het ministerie van Economische Zaken. Het geeft ook meer ruimte om de nieuwe bevoegdheden voor actieve cyberverdediging van de overheid te gebruiken.

Waarom het ertoe doetOverheden beginnen gerichte verdediging tegen AI-ondersteunde aanvallen te financieren, wat bepaalt hoe bedrijven inbreuken melden en erop reageren.
BeveiligingThe Hacker News ↗11 nov

Aanvallers gebruiken opensource-AI-pentestagent AntiFox om AWS-inloggegevens te stelen

Onderzoekers ontdekten aanvallers die zelfbeheerde instanties van AntiFox, een opensourceplatform voor agentgestuurde penetratietests, op Alibaba Cloud draaiden om webdiensten aan te vallen en AWS-inloggegevens te stelen. Daarna bewogen de aanvallers zich lateraal door gecompromitteerde omgevingen.

Waarom het ertoe doetOffensieve AI-agents die voor verdedigers zijn gebouwd, worden tegen cloudaccounts ingezet, wat de snelheid en schaal van aanvallen op inloggegevens vergroot.
BeveiligingOntwikkelaarsCSO Online ↗11 nov

Microsoft toont aan dat het aanpassen van minder dan 10 neuronen een verborgen achterdeur in AI-agents kan plaatsen

Onderzoekers van Microsoft beschreven een techniek genaamd Lazarus die enkele slapende neuronen in een open-weight model aanpast, zodat een trigger het model commando's van de aanvaller laat uitvoeren, zonder opnieuw te trainen. Het aangepaste model gedraagt zich normaal in standaard veiligheidstests, en Microsoft zegt nog geen aanvallers de methode te hebben zien gebruiken.

Waarom het ertoe doetTeams die agents op open-weight modellen draaien, moeten controleren waar hun modelbestanden vandaan komen en beperken wat agents mogen uitvoeren.
BeveiligingSecurityWeek ↗11 nov

Fortinet dicht bijna 100 kwetsbaarheden na inzet van frontier-AI bij beveiligingstests

Fortinet heeft in één grote batch fixes uitgebracht voor bijna 100 kwetsbaarheden. De piek volgt op de inzet van frontier-AI-modellen bij de beveiligingstests van zijn producten.

Waarom het ertoe doetAI-gestuurde bugjacht levert veel meer patches op, dus IT-teams moeten rekenen op grotere en frequentere updaterondes.
BeveiligingOntwikkelaarsCSO Online ↗11 nov

Instellingenbestanden van Claude Code lekten ruim 31.000 secrets op openbare GitHub-repo's

GitGuardian vond 31.088 unieke secrets, waaronder databasegegevens en cloudtokens, in lokale instellingenbestanden van Claude Code in 23.276 openbare GitHub-repositories. Daarvan waren er 5.343 nog geldig op het moment van ontdekking.

Waarom het ertoe doetGebruik je Claude Code? Controleer dan of je lokale instellingenbestand is uitgesloten van Git en vervang alle inloggegevens die mogelijk zijn gecommit.
BeveiligingOntwikkelaarsThe Hacker News ↗11 nov

Hackers maakten via datalek bij Railway zo'n 740.000 dollar aan AI-kosten met gestolen klantsleutels

Platformaanbieder Railway meldt dat door klanten opgeslagen sleutels van AI-aanbieders bij een inbraak in oktober zijn gestolen en gebruikt voor naar schatting 740.000 dollar aan ongeautoriseerd gebruik, met mogelijk tot 100.000 getroffen workspaces. Het bedrijf belooft kosten te dekken die AI-aanbieders niet terugbetalen.

Waarom het ertoe doetOpgeslagen AI-API-sleutels zijn nu een direct doelwit voor diefstal en doorverkoop van rekenkracht, dus stel uitgavenlimieten in en roteer sleutels die op platforms van derden staan.
BeveiligingOntwikkelaarsThe Hacker News ↗10 nov

Hackers misbruiken lek in SGLang om NEAR AI-inferentieserver binnen te dringen en agent- en gebruikersdata te stelen

Een aanvaller gebruikte een remote code execution-lek in de opensource-inferentie-engine SGLang om code uit te voeren op een van de inferentieservers van NEAR AI en buitte data van 18 agents en zo'n 100 gebruikers. Ook verzoeken die in een vertrouwelijke modus werden verstuurd, waren op die server mogelijk zichtbaar.

Waarom het ertoe doetTeams die opensource-inferentie-engines draaien, moeten snel patchen: één lek kan gebruikersprompts blootleggen, zelfs in zogenaamd vertrouwelijke opstellingen.
BeveiligingZakelijkThe Hacker News ↗10 nov

Datalek bij Fireworks AI breidt zich uit naar klantdatasets, modelgewichten en Notion AI-chats

Fireworks AI meldt dat het onderzoek naar een eerder incident meer kwaadaardige activiteit aan het licht bracht, waarbij account- en factuurgegevens, secrets, datasets en onvoltooide modellen van een beperkt aantal accounts zijn getroffen. Volgens Notion zijn door het lek chattranscripties van Notion AI in een klein aantal workspaces blootgelegd.

Waarom het ertoe doetJe AI-data is maar zo veilig als de infrastructuurleveranciers achter je tools, dus bedrijven doen er goed aan na te gaan welke leveranciers hun prompts en data verwerken.