KI-Sicherheit

Wie KI die Sicherheit verändert.

KI-gestützte Angriffe, Deepfake-Betrug und Scams, Angriffe auf KI-Systeme – und wie Banken, Fintechs und Tech-Firmen sich dagegen wehren. Zweimal täglich aktualisiert.

Foto: Kristijan Arsov / Unsplash

SicherheitPolitikThe Record ↗12. Nov.

Mutmaßlich mit Kasachstan verbundene Hacker nutzten KI-Agenten zur Spionage gegen zentralasiatische Regierungen

Laut neuer Forschung nutzten mutmaßlich mit Kasachstan verbundene Hacker einen KI-Agenten, um Regierungen in Zentralasien auszuspionieren. Die Gruppe stahl sensible Dokumente und drang in Netzwerke kritischer Infrastruktur ein.

Warum das wichtig istStaatlich unterstützte Gruppen setzen KI-Agenten inzwischen bei echter Spionage ein. Regierungen und Infrastrukturbetreiber sollten mit schnelleren, stärker automatisierten Angriffen rechnen.

SicherheitEntwicklerCSO Online ↗12. Nov.

KI-Agenten und Forscher von Microsoft finden 59 Fehler im Linux-Kernel, manche über 20 Jahre unentdeckt

Ein Projekt des Microsoft FORGE Lab, das KI-Agenten mit menschlichen Forschern kombiniert, hat 59 Schwachstellen im Linux-Kernel gefunden – manche steckten seit mehr als 20 Jahren im Produktivcode. KI beschleunigte die Entdeckung, doch das Prüfen der Fehler und das Schreiben von Patches erforderten weiterhin viel menschliche Arbeit.

Warum das wichtig istKI findet alte Fehler in zentraler Software schnell. Teams, die Linux betreiben, sollten daher mit mehr Patches rechnen und den menschlichen Aufwand für deren Behebung einplanen.
SicherheitEntwicklerHelp Net Security ↗12. Nov.

Forscher zeigen: Gestohlene Claude-API-Schlüssel können Claude Code in ein ferngesteuertes Implantat verwandeln

Darktrace-Forscher steuerten Claude Code in einem Labortest über die Speicherfunktion von Anthropics Plattform und schleusten über die Files API eine 1 GB große Datei hinaus. Der gesamte Datenverkehr lief über den regulären API-Endpunkt von Anthropic und sah daher aus wie ein Coding-Agent bei der Arbeit.

Warum das wichtig istGeleakte KI-API-Schlüssel können Angreifern verdeckte Kontrolle über Coding-Agenten verschaffen. Unternehmen sollten diese Schlüssel wie Passwörter schützen und regelmäßig wechseln.
SicherheitWirtschaftDark Reading ↗12. Nov.

Angreifer wechselte zu KI-generierten Skripten und bewegte sich in Minuten durch das Netzwerk eines US-Händlers

Als manuell eingegebene Befehle beim Einbruch in einen US-Händler scheiterten, setzte der Angreifer stattdessen KI-generierte Skripte ein. So konnte er sich innerhalb von Minuten durch das Netzwerk bewegen.

Warum das wichtig istKI verkürzt die Zeit, die Verteidigern bleibt, um einen Eindringling zu erkennen und zu stoppen. Händler brauchen daher schnellere Überwachung und Reaktion.
SicherheitHelp Net Security ↗12. Nov.

Credential-Stuffing-Bots tarnen sich als bekannter KI-Agent, um Abwehrmaßnahmen zu umgehen

In einer Oktoberwoche verzeichnete ein Online-Marktplatz über 414.000 Besuche von Traffic, der sich als bekannter KI-Agent für Verbraucher ausgab – alle auf die Anmeldeseite gerichtet. Tatsächlich handelte es sich um eine Credential-Stuffing-Operation, die gestohlene Benutzernamen und Passwörter testete, und sie übertraf die Besuche des echten Agenten.

Warum das wichtig istWebsites, die Traffic nur deshalb vertrauen, weil er sich als KI-Agent ausgibt, können sich für Kontoübernahmen angreifbar machen.
SicherheitPolitikDark Reading ↗12. Nov.

Japan schlägt Notfallfinanzierung für Cybersicherheit vor, da KI-gestützte Angriffe zunehmen

Japan treibt ein Notfall-Finanzierungspaket voran, das öffentlich-private Cyber-Einsatzkräfte und ein KI-fokussiertes Team unter Leitung des Wirtschaftsministeriums vorsieht. Zudem erhält die Regierung mehr Spielraum für ihre neuen Befugnisse zur aktiven Cyberabwehr.

Warum das wichtig istRegierungen beginnen, gezielte Abwehr gegen KI-gestützte Angriffe zu finanzieren – das wird prägen, wie Unternehmen Sicherheitsvorfälle melden und darauf reagieren.
SicherheitThe Hacker News ↗11. Nov.

Angreifer nutzen Open-Source-KI-Pentesting-Agenten AntiFox, um AWS-Zugangsdaten zu stehlen

Forscher entdeckten Angreifer, die selbstverwaltete Instanzen von AntiFox, einer Open-Source-Plattform für agentenbasierte Penetrationstests, auf Alibaba Cloud betrieben, um Webdienste anzugreifen und AWS-Zugangsdaten zu stehlen. Anschließend bewegten sich die Angreifer seitlich in kompromittierte Umgebungen.

Warum das wichtig istFür Verteidiger entwickelte offensive KI-Agenten werden gegen Cloud-Konten eingesetzt – das erhöht Tempo und Ausmaß von Angriffen auf Zugangsdaten.
SicherheitEntwicklerCSO Online ↗11. Nov.

Microsoft zeigt: Änderung von weniger als 10 Neuronen kann versteckte Hintertür in KI-Agenten einschleusen

Microsoft-Forscher beschreiben eine Technik namens Lazarus, die wenige ruhende Neuronen in einem Open-Weight-Modell verändert, sodass ein Auslöser das Modell Befehle des Angreifers ausgeben lässt – ganz ohne Neutraining. Das veränderte Modell verhält sich in Standard-Sicherheitstests normal; Microsoft hat nach eigenen Angaben keine Angreifer beobachtet, die die Methode nutzen.

Warum das wichtig istTeams, die Agenten auf Open-Weight-Modellen betreiben, sollten die Herkunft ihrer Modelldateien prüfen und einschränken, was Agenten ausführen dürfen.
SicherheitSecurityWeek ↗11. Nov.

Fortinet schließt fast 100 Schwachstellen, nachdem Frontier-KI in Sicherheitstests eingesetzt wurde

Fortinet hat Fixes für fast 100 Schwachstellen in einem großen Paket veröffentlicht. Der Anstieg folgt auf den Einsatz von Frontier-KI-Modellen bei den Sicherheitstests der Produkte.

Warum das wichtig istKI-gestützte Fehlersuche bringt deutlich mehr Patches hervor – IT-Teams sollten sich auf größere und häufigere Update-Zyklen einstellen.
SicherheitEntwicklerCSO Online ↗11. Nov.

Einstellungsdateien von Claude Code legten über 31.000 Secrets in öffentlichen GitHub-Repos offen

GitGuardian fand 31.088 einzelne Secrets, darunter Datenbank-Zugangsdaten und Cloud-Tokens, in lokalen Einstellungsdateien von Claude Code in 23.276 öffentlichen GitHub-Repositories. Davon waren 5.343 zum Zeitpunkt der Entdeckung noch gültig.

Warum das wichtig istWenn Sie Claude Code nutzen, stellen Sie sicher, dass Ihre lokale Einstellungsdatei von Git ausgeschlossen ist, und tauschen Sie alle Zugangsdaten aus, die möglicherweise committet wurden.
SicherheitEntwicklerThe Hacker News ↗11. Nov.

Railway-Datenleck: Hacker verursachten mit gestohlenen Kundenschlüsseln rund 740.000 Dollar an KI-Kosten

Der Plattformanbieter Railway teilte mit, dass von Kunden gespeicherte Schlüssel für KI-Anbieter bei einem Angriff im Oktober gestohlen und für eine unautorisierte Nutzung im geschätzten Wert von 740.000 Dollar verwendet wurden; betroffen sein könnten bis zu 100.000 Workspaces. Das Unternehmen versprach, Kosten zu übernehmen, die KI-Anbieter nicht erstatten.

Warum das wichtig istGespeicherte KI-API-Schlüssel sind inzwischen ein direktes Ziel für Diebstahl und Weiterverkauf von Rechenleistung – setzen Sie Ausgabenlimits und rotieren Sie Schlüssel, die auf Drittplattformen liegen.
SicherheitEntwicklerThe Hacker News ↗10. Nov.

Hacker nutzen SGLang-Lücke, um in NEAR-AI-Inferenzserver einzudringen und Agenten- und Nutzerdaten zu stehlen

Ein Angreifer nutzte eine Remote-Code-Execution-Lücke in der Open-Source-Inferenz-Engine SGLang, um Code auf einem Inferenzserver von NEAR AI auszuführen, und erbeutete Daten von 18 Agenten und rund 100 Nutzern. Auch im vertraulichen Modus gesendete Anfragen waren auf diesem Server möglicherweise einsehbar.

Warum das wichtig istTeams, die Open-Source-Inferenz-Engines betreiben, sollten schnell patchen – eine einzige Lücke kann Nutzer-Prompts selbst in sogenannten vertraulichen Setups offenlegen.
SicherheitWirtschaftThe Hacker News ↗10. Nov.

Datenleck bei Fireworks AI weitet sich auf Kundendatensätze, Modellgewichte und Notion-AI-Chats aus

Fireworks AI zufolge ergab die Untersuchung eines früheren Vorfalls weitere bösartige Aktivitäten, die Konto- und Abrechnungsdaten, Secrets, Datensätze und unvollständige Modelle bei einer begrenzten Zahl von Konten betrafen. Notion erklärte, durch das Leck seien Notion-AI-Chatverläufe in einer kleinen Zahl von Workspaces offengelegt worden.

Warum das wichtig istIhre KI-Daten sind nur so sicher wie die Infrastrukturanbieter hinter Ihren Tools. Unternehmen sollten daher prüfen, welche Anbieter ihre Prompts und Daten verarbeiten.