Des chercheurs de Microsoft montrent qu'on peut implanter une porte dérobée dans des agents IA en modifiant moins de 10 neurones
Des chercheurs de Microsoft ont présenté une technique appelée Lazarus qui implante une porte dérobée cachée dans un modèle d'IA en modifiant moins de 10 neurones rarement utilisés, sans réentraînement. Lorsqu'un déclencheur apparaît, un agent utilisant le modèle exécute la commande d'un attaquant, tout en se comportant normalement lors des tests de sécurité standard.
Les entreprises qui donnent à des agents IA l'accès à des terminaux ou systèmes doivent vérifier la provenance des poids des modèles et qui peut les modifier, car les tests de sécurité peuvent ne pas détecter ce type de manipulation.
aii.news sélectionne et résume des articles de sources d'information fiables avec l'aide de l'IA. Chaque article renvoie au reportage d'origine. Notre méthode.
À lire aussi
-
Plus de 35 000 applications créées avec l'agent de codage de Grok accessibles en ligne, certaines divulguant des mots de passe
La société de sécurité Claroc a trouvé 37 571 applications créées avec Grok en ligne, dont 35 578 pouvaient être ouvertes sans connexion, y compris 24 créées par des employés de X et SpaceXSI. Environ une sur dix contenait des données internes d'entreprise, et certaines divulguaient des informations confidentielles et des mots de passe.
Pourquoi c'est importantToute personne créant des applications avec des outils de codage IA devrait vérifier les paramètres d'accès avant publication, car les configurations par défaut peuvent exposer des données privées à tous.
-
Des pirates ont volé des clés de fournisseurs d'IA chez Railway et généré 740,000 $ d'utilisation frauduleuse
L'hébergeur cloud Railway a confirmé avoir lutté pendant près de 26 heures contre des attaquants à la recherche d'identifiants de fournisseurs d'IA, qui ont généré environ $740,000 de frais d'IA frauduleux. Les clés volées étaient destinées à être revendues à des services de distillation de modèles, et jusqu'à 100,000 identifiants d'espaces de travail pourraient avoir été exposés.
Pourquoi c'est importantLes clés d'API d'IA sont désormais un butin précieux : les développeurs doivent les stocker en sécurité, les renouveler et fixer des plafonds de dépenses.
-
OpenAI lance Daybreak, des outils de sécurité qui utilisent des agents d'IA pour tester les applications et préparer des correctifs
OpenAI a présenté Daybreak Red Team, qui utilise des agents d'IA coordonnés pour rechercher les failles des applications web, proposé en accès anticipé. L'entreprise a aussi lancé Defense Factory, qui analyse les résultats de sécurité et prépare des correctifs, reliant la découverte des vulnérabilités à leur correction et à de nouveaux tests.
Pourquoi c'est importantLes équipes de sécurité pourraient bientôt confier à des agents d'IA à la fois la détection et la correction des failles applicatives, ce qui pourrait accélérer les correctifs mais exige une relecture humaine attentive.
-
Des hackers exploitent une faille de SGLang pour pénétrer un serveur d'inférence de NEAR AI et voler des données d'agents et d'utilisateurs
Un attaquant a exploité une faille d'exécution de code à distance dans le moteur d'inférence open source SGLang pour exécuter du code sur l'un des serveurs d'inférence de NEAR AI, dérobant les données de 18 agents et d'environ 100 utilisateurs. Les requêtes envoyées en mode confidentiel ont aussi pu être visibles sur ce serveur.
Pourquoi c'est importantLes équipes qui utilisent des moteurs d'inférence open source doivent appliquer les correctifs rapidement, car une seule faille peut exposer les prompts des utilisateurs, même dans des configurations dites confidentielles.
-
Des agents IA et des chercheurs de Microsoft découvrent 59 bugs dans le noyau Linux, certains cachés depuis plus de 20 ans
Un projet du Microsoft FORGE Lab associant agents IA et chercheurs humains a mis au jour 59 vulnérabilités du noyau Linux, dont certaines présentes dans du code de production depuis plus de 20 ans. L'IA a accéléré la découverte, mais la vérification des failles et la rédaction des correctifs ont encore exigé beaucoup de travail humain.
Pourquoi c'est importantL'IA détecte rapidement d'anciens bugs dans des logiciels essentiels : les équipes qui exploitent Linux doivent s'attendre à davantage de correctifs et prévoir l'effort humain nécessaire pour les appliquer.
