OpenAI startet Sicherheitstools Daybreak, die mit KI-Agenten Apps auf Schwachstellen testen und Fixes vorbereiten
OpenAI hat Daybreak Red Team vorgestellt, das koordinierte KI-Agenten einsetzt, um Webanwendungen auf Schwachstellen zu testen, und im Early Access angeboten wird. Zudem startete das Unternehmen Defense Factory, das Sicherheitsbefunde untersucht und Patches vorbereitet und so das Aufspüren von Schwachstellen mit deren Behebung und erneuten Tests verknüpft.
Sicherheitsteams könnten bald sowohl das Aufspüren als auch das Beheben von App-Schwachstellen an KI-Agenten übergeben. Das könnte Fixes beschleunigen, erfordert aber sorgfältige Prüfung durch Menschen.
aii.news wählt Meldungen aus vertrauenswürdigen Nachrichtenquellen aus und fasst sie mithilfe von KI zusammen. Jede Meldung verlinkt auf die Originalberichterstattung. So arbeiten wir.
Weiterlesen
-
Hacker nutzen SGLang-Lücke, um in NEAR-AI-Inferenzserver einzudringen und Agenten- und Nutzerdaten zu stehlen
Ein Angreifer nutzte eine Remote-Code-Execution-Lücke in der Open-Source-Inferenz-Engine SGLang, um Code auf einem Inferenzserver von NEAR AI auszuführen, und erbeutete Daten von 18 Agenten und rund 100 Nutzern. Auch im vertraulichen Modus gesendete Anfragen waren auf diesem Server möglicherweise einsehbar.
Warum das wichtig istTeams, die Open-Source-Inferenz-Engines betreiben, sollten schnell patchen – eine einzige Lücke kann Nutzer-Prompts selbst in sogenannten vertraulichen Setups offenlegen.
-
KI-Agenten und Forscher von Microsoft finden 59 Fehler im Linux-Kernel, manche über 20 Jahre unentdeckt
Ein Projekt des Microsoft FORGE Lab, das KI-Agenten mit menschlichen Forschern kombiniert, hat 59 Schwachstellen im Linux-Kernel gefunden – manche steckten seit mehr als 20 Jahren im Produktivcode. KI beschleunigte die Entdeckung, doch das Prüfen der Fehler und das Schreiben von Patches erforderten weiterhin viel menschliche Arbeit.
Warum das wichtig istKI findet alte Fehler in zentraler Software schnell. Teams, die Linux betreiben, sollten daher mit mehr Patches rechnen und den menschlichen Aufwand für deren Behebung einplanen.
-
Forscher zeigen: Gestohlene Claude-API-Schlüssel können Claude Code in ein ferngesteuertes Implantat verwandeln
Darktrace-Forscher steuerten Claude Code in einem Labortest über die Speicherfunktion von Anthropics Plattform und schleusten über die Files API eine 1 GB große Datei hinaus. Der gesamte Datenverkehr lief über den regulären API-Endpunkt von Anthropic und sah daher aus wie ein Coding-Agent bei der Arbeit.
Warum das wichtig istGeleakte KI-API-Schlüssel können Angreifern verdeckte Kontrolle über Coding-Agenten verschaffen. Unternehmen sollten diese Schlüssel wie Passwörter schützen und regelmäßig wechseln.
-
Railway-Datenleck: Hacker verursachten mit gestohlenen Kundenschlüsseln rund 740.000 Dollar an KI-Kosten
Der Plattformanbieter Railway teilte mit, dass von Kunden gespeicherte Schlüssel für KI-Anbieter bei einem Angriff im Oktober gestohlen und für eine unautorisierte Nutzung im geschätzten Wert von 740.000 Dollar verwendet wurden; betroffen sein könnten bis zu 100.000 Workspaces. Das Unternehmen versprach, Kosten zu übernehmen, die KI-Anbieter nicht erstatten.
Warum das wichtig istGespeicherte KI-API-Schlüssel sind inzwischen ein direktes Ziel für Diebstahl und Weiterverkauf von Rechenleistung – setzen Sie Ausgabenlimits und rotieren Sie Schlüssel, die auf Drittplattformen liegen.
-
Microsoft zeigt: Änderung von weniger als 10 Neuronen kann versteckte Hintertür in KI-Agenten einschleusen
Microsoft-Forscher beschreiben eine Technik namens Lazarus, die wenige ruhende Neuronen in einem Open-Weight-Modell verändert, sodass ein Auslöser das Modell Befehle des Angreifers ausgeben lässt – ganz ohne Neutraining. Das veränderte Modell verhält sich in Standard-Sicherheitstests normal; Microsoft hat nach eigenen Angaben keine Angreifer beobachtet, die die Methode nutzen.
Warum das wichtig istTeams, die Agenten auf Open-Weight-Modellen betreiben, sollten die Herkunft ihrer Modelldateien prüfen und einschränken, was Agenten ausführen dürfen.
