OpenAI lance Daybreak, des outils de sécurité qui utilisent des agents d'IA pour tester les applications et préparer des correctifs
OpenAI a présenté Daybreak Red Team, qui utilise des agents d'IA coordonnés pour rechercher les failles des applications web, proposé en accès anticipé. L'entreprise a aussi lancé Defense Factory, qui analyse les résultats de sécurité et prépare des correctifs, reliant la découverte des vulnérabilités à leur correction et à de nouveaux tests.
Les équipes de sécurité pourraient bientôt confier à des agents d'IA à la fois la détection et la correction des failles applicatives, ce qui pourrait accélérer les correctifs mais exige une relecture humaine attentive.
aii.news sélectionne et résume des articles de sources d'information fiables avec l'aide de l'IA. Chaque article renvoie au reportage d'origine. Notre méthode.
À lire aussi
-
Des hackers exploitent une faille de SGLang pour pénétrer un serveur d'inférence de NEAR AI et voler des données d'agents et d'utilisateurs
Un attaquant a exploité une faille d'exécution de code à distance dans le moteur d'inférence open source SGLang pour exécuter du code sur l'un des serveurs d'inférence de NEAR AI, dérobant les données de 18 agents et d'environ 100 utilisateurs. Les requêtes envoyées en mode confidentiel ont aussi pu être visibles sur ce serveur.
Pourquoi c'est importantLes équipes qui utilisent des moteurs d'inférence open source doivent appliquer les correctifs rapidement, car une seule faille peut exposer les prompts des utilisateurs, même dans des configurations dites confidentielles.
-
Des agents IA et des chercheurs de Microsoft découvrent 59 bugs dans le noyau Linux, certains cachés depuis plus de 20 ans
Un projet du Microsoft FORGE Lab associant agents IA et chercheurs humains a mis au jour 59 vulnérabilités du noyau Linux, dont certaines présentes dans du code de production depuis plus de 20 ans. L'IA a accéléré la découverte, mais la vérification des failles et la rédaction des correctifs ont encore exigé beaucoup de travail humain.
Pourquoi c'est importantL'IA détecte rapidement d'anciens bugs dans des logiciels essentiels : les équipes qui exploitent Linux doivent s'attendre à davantage de correctifs et prévoir l'effort humain nécessaire pour les appliquer.
-
Des chercheurs montrent que des clés API Claude volées peuvent transformer Claude Code en implant télécommandé
Lors d'un test en laboratoire, des chercheurs de Darktrace ont pris le contrôle de Claude Code via la fonction mémoire de la plateforme d'Anthropic et exfiltré un fichier de 1 GB par la Files API. Tout le trafic passait par le point de terminaison API habituel d'Anthropic, et ressemblait donc à un agent de code faisant son travail.
Pourquoi c'est importantDes clés API d'IA divulguées peuvent offrir aux attaquants un contrôle caché des agents de code : les entreprises doivent protéger ces clés et les renouveler comme des mots de passe.
-
Une intrusion chez Railway a permis à des hackers de générer environ 740 000 dollars de frais d'IA avec des clés clients volées
Le fournisseur de plateforme Railway a indiqué que des clés de fournisseurs d'IA stockées par ses clients ont été volées lors d'une intrusion en octobre et utilisées pour un usage non autorisé estimé à 740 000 dollars, touchant potentiellement jusqu'à 100 000 espaces de travail. L'entreprise s'est engagée à couvrir les frais que les fournisseurs d'IA ne rembourseront pas.
Pourquoi c'est importantLes clés d'API d'IA stockées sont désormais une cible directe pour le vol et la revente de puissance de calcul : fixez des plafonds de dépenses et renouvelez les clés conservées sur des plateformes tierces.
-
Microsoft montre que modifier moins de 10 neurones suffit à implanter une porte dérobée cachée dans des agents d'IA
Des chercheurs de Microsoft ont décrit une technique baptisée Lazarus qui modifie quelques neurones dormants d'un modèle à poids ouverts afin qu'un déclencheur lui fasse produire des commandes de l'attaquant, sans réentraînement. Le modèle modifié se comporte normalement lors des tests de sécurité standard, et Microsoft affirme n'avoir vu aucun attaquant utiliser cette méthode.
Pourquoi c'est importantLes équipes qui exécutent des agents sur des modèles à poids ouverts doivent vérifier la provenance de leurs fichiers de modèle et limiter ce que les agents peuvent exécuter.
