Seguridad e IA

Cómo la IA está cambiando la seguridad.

Ataques con IA, fraudes y estafas con deepfakes, ataques contra sistemas de IA, y cómo se defienden bancos, fintechs y empresas tecnológicas. Se actualiza dos veces al día.

Foto: Kristijan Arsov / Unsplash

SeguridadPolíticaThe Record ↗12 nov

Hackers presuntamente vinculados a Kazajistán usaron un agente de IA para espiar a gobiernos de Asia Central

Una nueva investigación afirma que hackers presuntamente vinculados a Kazajistán usaron un agente de IA para ayudar a espiar a gobiernos de Asia Central. El grupo robó documentos sensibles y accedió a redes de infraestructuras críticas.

Por qué importaLos grupos respaldados por Estados ya usan agentes de IA en operaciones reales de espionaje, así que gobiernos y operadores de infraestructuras deben esperar ataques más rápidos y automatizados.

SeguridadDesarrolladoresCSO Online ↗12 nov

Agentes de IA e investigadores de Microsoft encuentran 59 fallos en el kernel de Linux, algunos ocultos durante más de 20 años

Un proyecto de Microsoft FORGE Lab que combina agentes de IA con investigadores humanos encontró 59 vulnerabilidades en el kernel de Linux, algunas presentes en código de producción durante más de 20 años. La IA aceleró el hallazgo, pero verificar los fallos y escribir parches siguió requiriendo mucho trabajo humano.

Por qué importaLa IA está encontrando rápido fallos antiguos en software esencial, así que los equipos que usan Linux deben esperar más parches y planificar el esfuerzo humano necesario para corregirlos.
SeguridadDesarrolladoresHelp Net Security ↗12 nov

Investigadores muestran que claves robadas de la API de Claude pueden convertir Claude Code en un implante controlado a distancia

Investigadores de Darktrace controlaron Claude Code en una prueba de laboratorio usando la función de memoria de la plataforma de Anthropic y extrajeron un archivo de 1 GB a través de la Files API. Todo el tráfico pasó por el endpoint habitual de la API de Anthropic, por lo que parecía un agente de programación haciendo su trabajo.

Por qué importaLas claves de API de IA filtradas pueden dar a los atacantes un control oculto de los agentes de programación, así que las empresas deben proteger y rotar estas claves como si fueran contraseñas.
SeguridadNegociosDark Reading ↗12 nov

Un atacante recurrió a scripts generados por IA para moverse por la red de un minorista estadounidense en minutos

Cuando los comandos escritos a mano no lograron penetrar en un minorista de EE. UU., el atacante usó en su lugar scripts generados por IA. Así pudo moverse por la red en cuestión de minutos.

Por qué importaLa IA reduce el tiempo que tienen los defensores para detectar y detener a un intruso, por lo que los minoristas necesitan una vigilancia y una respuesta más rápidas.
SeguridadHelp Net Security ↗12 nov

Bots de credential stuffing se hacen pasar por un popular agente de IA para burlar las defensas

En una semana de octubre, un marketplace online recibió más de 414.000 visitas de tráfico que decía ser un conocido agente de IA de consumo, todas dirigidas a la página de inicio de sesión. En realidad era una operación de credential stuffing que probaba usuarios y contraseñas robados, y superó en número a las visitas del agente real.

Por qué importaLos sitios que confían en el tráfico solo porque dice ser un agente de IA pueden quedar expuestos a ataques de robo de cuentas.
SeguridadPolíticaDark Reading ↗12 nov

Japón propone financiación de emergencia en ciberseguridad ante el aumento de brechas asistidas por IA

Japón impulsa un paquete de financiación de emergencia que suma equipos de respuesta cibernética público-privados y un equipo centrado en IA dirigido por el ministerio de economía. También amplía el margen para usar los nuevos poderes de ciberdefensa activa del gobierno.

Por qué importaLos gobiernos empiezan a financiar defensas específicas contra ataques asistidos por IA, lo que marcará cómo las empresas notifican y responden a las brechas.
SeguridadThe Hacker News ↗11 nov

Atacantes usan AntiFox, un agente de IA de código abierto para pentesting, para robar credenciales de AWS

Investigadores descubrieron a atacantes que alojaban instancias autogestionadas de AntiFox, una plataforma de código abierto de pruebas de penetración con agentes, en Alibaba Cloud para atacar servicios web y robar credenciales de AWS. Después se movieron lateralmente por los entornos comprometidos.

Por qué importaAgentes de IA ofensivos creados para los defensores se están volviendo contra cuentas en la nube, lo que aumenta la velocidad y la escala de los ataques a credenciales.
SeguridadDesarrolladoresCSO Online ↗11 nov

Microsoft demuestra que editar menos de 10 neuronas puede implantar una puerta trasera oculta en agentes de IA

Investigadores de Microsoft describieron una técnica llamada Lazarus que modifica unas pocas neuronas inactivas de un modelo de pesos abiertos para que un disparador le haga emitir comandos del atacante, sin necesidad de reentrenamiento. El modelo modificado se comporta con normalidad en las pruebas de seguridad estándar, y Microsoft dice no haber visto a atacantes usar el método.

Por qué importaLos equipos que ejecutan agentes sobre modelos de pesos abiertos deben verificar de dónde proceden sus archivos de modelo y limitar lo que los agentes pueden ejecutar.
SeguridadSecurityWeek ↗11 nov

Fortinet corrige casi 100 vulnerabilidades tras incorporar IA de frontera a sus pruebas de seguridad

Fortinet publicó parches para casi 100 vulnerabilidades en un gran lote. El aumento se produce después de que la empresa empezara a usar modelos de IA de frontera en las pruebas de seguridad de sus productos.

Por qué importaLa búsqueda de fallos con IA está generando muchos más parches, así que los equipos de TI deben prepararse para ciclos de actualización más grandes y frecuentes.
SeguridadDesarrolladoresCSO Online ↗11 nov

Los archivos de configuración de Claude Code filtraron más de 31.000 secretos en repositorios públicos de GitHub

GitGuardian encontró 31.088 secretos distintos, entre ellos credenciales de bases de datos y tokens de la nube, en archivos de configuración local de Claude Code en 23.276 repositorios públicos de GitHub. De ellos, 5.343 seguían siendo válidos cuando se detectaron.

Por qué importaSi usas Claude Code, comprueba que tu archivo de configuración local esté excluido de Git y rota cualquier credencial que pueda haberse subido.
SeguridadDesarrolladoresThe Hacker News ↗11 nov

Una brecha en Railway permitió a hackers generar unos 740.000 dólares en cargos de IA con claves robadas a clientes

El proveedor de plataformas Railway informó de que las claves de proveedores de IA almacenadas por sus clientes fueron robadas en una brecha en octubre y usadas para un consumo no autorizado estimado en 740.000 dólares, que podría afectar a hasta 100.000 espacios de trabajo. La empresa prometió cubrir los cargos que los proveedores de IA no reembolsen.

Por qué importaLas claves de API de IA almacenadas ya son un objetivo directo para robar y revender capacidad de cómputo, así que fija límites de gasto y rota las claves guardadas en plataformas de terceros.
SeguridadDesarrolladoresThe Hacker News ↗10 nov

Hackers explotan un fallo de SGLang para entrar en un servidor de inferencia de NEAR AI y robar datos de agentes y usuarios

Un atacante aprovechó un fallo de ejecución remota de código en el motor de inferencia de código abierto SGLang para ejecutar código en uno de los servidores de inferencia de NEAR AI y se llevó datos de 18 agentes y unos 100 usuarios. Las solicitudes enviadas en modo confidencial también pudieron quedar visibles en ese servidor.

Por qué importaSi usas motores de inferencia de código abierto, parchea rápido: un solo fallo puede exponer los prompts de los usuarios incluso en configuraciones supuestamente confidenciales.
SeguridadNegociosThe Hacker News ↗10 nov

La brecha de Fireworks AI se amplía a conjuntos de datos de clientes, pesos de modelos y chats de Notion AI

Fireworks AI afirmó que su investigación sobre un incidente anterior halló más actividad maliciosa que afectó a información de cuentas y facturación, secretos, conjuntos de datos y modelos incompletos de un número limitado de cuentas. Notion indicó que la brecha expuso transcripciones de chats de Notion AI en un pequeño número de espacios de trabajo.

Por qué importaTus datos de IA solo están tan seguros como los proveedores de infraestructura detrás de tus herramientas, así que las empresas deberían revisar qué proveedores procesan sus prompts y datos.