OpenAI lanza Daybreak, herramientas de seguridad que usan agentes de IA para hacer pentesting de aplicaciones y preparar correcciones
OpenAI ha presentado Daybreak Red Team, que usa agentes de IA coordinados para buscar debilidades en aplicaciones web y se ofrece en acceso anticipado. También ha lanzado Defense Factory, que investiga los hallazgos de seguridad y prepara parches, uniendo el descubrimiento de vulnerabilidades con su corrección y nuevas pruebas.
Los equipos de seguridad pronto podrían delegar en agentes de IA tanto la detección como la corrección de fallos en aplicaciones, lo que podría acelerar los parches pero exige una revisión humana cuidadosa.
aii.news selecciona y resume noticias de fuentes fiables con ayuda de la IA. Cada noticia enlaza a la información original. Cómo trabajamos.
Sigue leyendo
-
Hackers explotan un fallo de SGLang para entrar en un servidor de inferencia de NEAR AI y robar datos de agentes y usuarios
Un atacante aprovechó un fallo de ejecución remota de código en el motor de inferencia de código abierto SGLang para ejecutar código en uno de los servidores de inferencia de NEAR AI y se llevó datos de 18 agentes y unos 100 usuarios. Las solicitudes enviadas en modo confidencial también pudieron quedar visibles en ese servidor.
Por qué importaSi usas motores de inferencia de código abierto, parchea rápido: un solo fallo puede exponer los prompts de los usuarios incluso en configuraciones supuestamente confidenciales.
-
Agentes de IA e investigadores de Microsoft encuentran 59 fallos en el kernel de Linux, algunos ocultos durante más de 20 años
Un proyecto de Microsoft FORGE Lab que combina agentes de IA con investigadores humanos encontró 59 vulnerabilidades en el kernel de Linux, algunas presentes en código de producción durante más de 20 años. La IA aceleró el hallazgo, pero verificar los fallos y escribir parches siguió requiriendo mucho trabajo humano.
Por qué importaLa IA está encontrando rápido fallos antiguos en software esencial, así que los equipos que usan Linux deben esperar más parches y planificar el esfuerzo humano necesario para corregirlos.
-
Investigadores muestran que claves robadas de la API de Claude pueden convertir Claude Code en un implante controlado a distancia
Investigadores de Darktrace controlaron Claude Code en una prueba de laboratorio usando la función de memoria de la plataforma de Anthropic y extrajeron un archivo de 1 GB a través de la Files API. Todo el tráfico pasó por el endpoint habitual de la API de Anthropic, por lo que parecía un agente de programación haciendo su trabajo.
Por qué importaLas claves de API de IA filtradas pueden dar a los atacantes un control oculto de los agentes de programación, así que las empresas deben proteger y rotar estas claves como si fueran contraseñas.
-
Una brecha en Railway permitió a hackers generar unos 740.000 dólares en cargos de IA con claves robadas a clientes
El proveedor de plataformas Railway informó de que las claves de proveedores de IA almacenadas por sus clientes fueron robadas en una brecha en octubre y usadas para un consumo no autorizado estimado en 740.000 dólares, que podría afectar a hasta 100.000 espacios de trabajo. La empresa prometió cubrir los cargos que los proveedores de IA no reembolsen.
Por qué importaLas claves de API de IA almacenadas ya son un objetivo directo para robar y revender capacidad de cómputo, así que fija límites de gasto y rota las claves guardadas en plataformas de terceros.
-
Microsoft demuestra que editar menos de 10 neuronas puede implantar una puerta trasera oculta en agentes de IA
Investigadores de Microsoft describieron una técnica llamada Lazarus que modifica unas pocas neuronas inactivas de un modelo de pesos abiertos para que un disparador le haga emitir comandos del atacante, sin necesidad de reentrenamiento. El modelo modificado se comporta con normalidad en las pruebas de seguridad estándar, y Microsoft dice no haber visto a atacantes usar el método.
Por qué importaLos equipos que ejecutan agentes sobre modelos de pesos abiertos deben verificar de dónde proceden sus archivos de modelo y limitar lo que los agentes pueden ejecutar.
