Sécurité et IA

Comment l'IA transforme la sécurité.

Attaques menées avec l'IA, fraudes et arnaques par deepfake, attaques contre les systèmes d'IA, et la façon dont banques, fintechs et entreprises tech se défendent. Mis à jour deux fois par jour.

Photo: Kristijan Arsov / Unsplash

SécuritéPolitiqueThe Record ↗12 nov.

Des hackers présumés liés au Kazakhstan ont utilisé un agent IA pour espionner des gouvernements d'Asie centrale

Selon une nouvelle étude, des hackers soupçonnés d'être liés au Kazakhstan ont utilisé un agent IA pour espionner des gouvernements d'Asie centrale. Le groupe a volé des documents sensibles et pénétré des réseaux d'infrastructures critiques.

Pourquoi c'est importantLes groupes soutenus par des États utilisent désormais des agents IA pour de l'espionnage réel : gouvernements et opérateurs d'infrastructures doivent s'attendre à des attaques plus rapides et plus automatisées.

SécuritéDéveloppeursCSO Online ↗12 nov.

Des agents IA et des chercheurs de Microsoft découvrent 59 bugs dans le noyau Linux, certains cachés depuis plus de 20 ans

Un projet du Microsoft FORGE Lab associant agents IA et chercheurs humains a mis au jour 59 vulnérabilités du noyau Linux, dont certaines présentes dans du code de production depuis plus de 20 ans. L'IA a accéléré la découverte, mais la vérification des failles et la rédaction des correctifs ont encore exigé beaucoup de travail humain.

Pourquoi c'est importantL'IA détecte rapidement d'anciens bugs dans des logiciels essentiels : les équipes qui exploitent Linux doivent s'attendre à davantage de correctifs et prévoir l'effort humain nécessaire pour les appliquer.
SécuritéDéveloppeursHelp Net Security ↗12 nov.

Des chercheurs montrent que des clés API Claude volées peuvent transformer Claude Code en implant télécommandé

Lors d'un test en laboratoire, des chercheurs de Darktrace ont pris le contrôle de Claude Code via la fonction mémoire de la plateforme d'Anthropic et exfiltré un fichier de 1 GB par la Files API. Tout le trafic passait par le point de terminaison API habituel d'Anthropic, et ressemblait donc à un agent de code faisant son travail.

Pourquoi c'est importantDes clés API d'IA divulguées peuvent offrir aux attaquants un contrôle caché des agents de code : les entreprises doivent protéger ces clés et les renouveler comme des mots de passe.
SécuritéEntreprisesDark Reading ↗12 nov.

Un attaquant passe à des scripts générés par IA pour se déplacer en quelques minutes dans le réseau d'un distributeur américain

Faute de parvenir à pénétrer chez un distributeur américain avec des commandes saisies à la main, l'attaquant a utilisé des scripts générés par IA. Il a ainsi pu se déplacer dans le réseau en quelques minutes.

Pourquoi c'est importantL'IA réduit le temps dont disposent les défenseurs pour détecter et arrêter un intrus : les distributeurs ont besoin d'une surveillance et d'une réponse plus rapides.
SécuritéHelp Net Security ↗12 nov.

Des bots de credential stuffing se font passer pour un agent IA populaire afin de contourner les défenses

En une semaine d'octobre, une place de marché en ligne a reçu plus de 414 000 visites d'un trafic se présentant comme un agent IA grand public bien connu, toutes ciblant la page de connexion. Il s'agissait en réalité d'une opération de credential stuffing testant des identifiants et mots de passe volés, plus nombreuse que les visites du véritable agent.

Pourquoi c'est importantLes sites qui font confiance à un trafic simplement parce qu'il se présente comme un agent IA s'exposent à des attaques de prise de contrôle de comptes.
SécuritéPolitiqueDark Reading ↗12 nov.

Le Japon propose un financement d'urgence pour la cybersécurité face à la hausse des intrusions assistées par l'IA

Le Japon pousse un plan de financement d'urgence qui ajoute des équipes de réponse cyber public-privé et une équipe dédiée à l'IA pilotée par le ministère de l'Économie. Il élargit aussi le recours aux nouveaux pouvoirs de cyberdéfense active du gouvernement.

Pourquoi c'est importantLes gouvernements commencent à financer des défenses dédiées contre les attaques assistées par l'IA, ce qui influencera la façon dont les entreprises signalent les incidents et y réagissent.
SécuritéThe Hacker News ↗11 nov.

Des attaquants utilisent AntiFox, un agent IA open source de pentest, pour voler des identifiants AWS

Des chercheurs ont découvert des attaquants hébergeant sur Alibaba Cloud des instances autogérées d'AntiFox, une plateforme open source de tests d'intrusion agentique, pour cibler des services web et voler des identifiants AWS. Les attaquants se sont ensuite déplacés latéralement dans les environnements compromis.

Pourquoi c'est importantDes agents IA offensifs conçus pour les défenseurs sont retournés contre des comptes cloud, ce qui accroît la vitesse et l'ampleur des attaques visant les identifiants.
SécuritéDéveloppeursCSO Online ↗11 nov.

Microsoft montre que modifier moins de 10 neurones suffit à implanter une porte dérobée cachée dans des agents d'IA

Des chercheurs de Microsoft ont décrit une technique baptisée Lazarus qui modifie quelques neurones dormants d'un modèle à poids ouverts afin qu'un déclencheur lui fasse produire des commandes de l'attaquant, sans réentraînement. Le modèle modifié se comporte normalement lors des tests de sécurité standard, et Microsoft affirme n'avoir vu aucun attaquant utiliser cette méthode.

Pourquoi c'est importantLes équipes qui exécutent des agents sur des modèles à poids ouverts doivent vérifier la provenance de leurs fichiers de modèle et limiter ce que les agents peuvent exécuter.
SécuritéSecurityWeek ↗11 nov.

Fortinet corrige près de 100 vulnérabilités après avoir intégré l'IA de pointe à ses tests de sécurité

Fortinet a publié des correctifs pour près de 100 vulnérabilités en un seul lot. Cette hausse fait suite à l'utilisation par l'entreprise de modèles d'IA de pointe dans les tests de sécurité de ses produits.

Pourquoi c'est importantLa chasse aux bugs pilotée par l'IA produit bien plus de correctifs : les équipes IT doivent s'attendre à des cycles de mise à jour plus importants et plus fréquents.
SécuritéDéveloppeursCSO Online ↗11 nov.

Les fichiers de configuration de Claude Code ont exposé plus de 31 000 secrets sur des dépôts GitHub publics

GitGuardian a découvert 31 088 secrets distincts, dont des identifiants de bases de données et des jetons cloud, dans des fichiers de configuration locaux de Claude Code répartis sur 23 276 dépôts GitHub publics. Parmi eux, 5 343 étaient encore valides au moment de leur détection.

Pourquoi c'est importantSi vous utilisez Claude Code, vérifiez que votre fichier de configuration local est exclu de Git et renouvelez tous les identifiants qui ont pu être commités.
SécuritéDéveloppeursThe Hacker News ↗11 nov.

Une intrusion chez Railway a permis à des hackers de générer environ 740 000 dollars de frais d'IA avec des clés clients volées

Le fournisseur de plateforme Railway a indiqué que des clés de fournisseurs d'IA stockées par ses clients ont été volées lors d'une intrusion en octobre et utilisées pour un usage non autorisé estimé à 740 000 dollars, touchant potentiellement jusqu'à 100 000 espaces de travail. L'entreprise s'est engagée à couvrir les frais que les fournisseurs d'IA ne rembourseront pas.

Pourquoi c'est importantLes clés d'API d'IA stockées sont désormais une cible directe pour le vol et la revente de puissance de calcul : fixez des plafonds de dépenses et renouvelez les clés conservées sur des plateformes tierces.
SécuritéDéveloppeursThe Hacker News ↗10 nov.

Des hackers exploitent une faille de SGLang pour pénétrer un serveur d'inférence de NEAR AI et voler des données d'agents et d'utilisateurs

Un attaquant a exploité une faille d'exécution de code à distance dans le moteur d'inférence open source SGLang pour exécuter du code sur l'un des serveurs d'inférence de NEAR AI, dérobant les données de 18 agents et d'environ 100 utilisateurs. Les requêtes envoyées en mode confidentiel ont aussi pu être visibles sur ce serveur.

Pourquoi c'est importantLes équipes qui utilisent des moteurs d'inférence open source doivent appliquer les correctifs rapidement, car une seule faille peut exposer les prompts des utilisateurs, même dans des configurations dites confidentielles.
SécuritéEntreprisesThe Hacker News ↗10 nov.

La fuite chez Fireworks AI s'étend aux jeux de données clients, aux poids de modèles et aux conversations Notion AI

Fireworks AI indique que son enquête sur un incident antérieur a révélé d'autres activités malveillantes touchant des informations de compte et de facturation, des secrets, des jeux de données et des modèles incomplets pour un nombre limité de comptes. Notion précise que la fuite a exposé des transcriptions de conversations Notion AI dans un petit nombre d'espaces de travail.

Pourquoi c'est importantVos données d'IA ne sont pas plus sûres que les fournisseurs d'infrastructure derrière vos outils : les entreprises doivent vérifier quels prestataires traitent leurs prompts et leurs données.