Investigadores de Microsoft muestran que se puede introducir una puerta trasera en agentes de IA modificando menos de 10 neuronas
Investigadores de Microsoft mostraron una técnica llamada Lazarus que implanta una puerta trasera oculta en un modelo de IA cambiando menos de 10 neuronas poco usadas, sin reentrenamiento. Cuando aparece un activador, un agente que usa el modelo ejecuta el comando de un atacante, pero se comporta con normalidad en las pruebas de seguridad estándar.
Las empresas que dan a agentes de IA acceso a terminales o sistemas deben verificar de dónde vienen los pesos del modelo y quién puede modificarlos, porque las pruebas de seguridad pueden no detectar este tipo de manipulación.
aii.news selecciona y resume noticias de fuentes fiables con ayuda de la IA. Cada noticia enlaza a la información original. Cómo trabajamos.
Sigue leyendo
-
Más de 35.000 apps creadas con el agente de programación de Grok, expuestas en internet; algunas filtran contraseñas
La firma de seguridad Claroc encontró 37.571 apps creadas con Grok en línea, y 35.578 podían abrirse sin iniciar sesión, incluidas 24 creadas por empleados de X y SpaceXSI. Aproximadamente una de cada diez contenía datos internos de empresas, y algunas filtraban información confidencial y contraseñas.
Por qué importaSi creas apps con herramientas de programación con IA, revisa la configuración de acceso antes de publicarlas, ya que la configuración por defecto puede exponer datos privados a cualquiera.
-
Hackers robaron claves de proveedores de IA a Railway y generaron $740,000 en uso fraudulento
El proveedor cloud Railway confirmó una lucha de casi 26 horas contra atacantes que buscaban credenciales de proveedores de IA y generaron unos $740,000 en cargos fraudulentos de IA. Las claves robadas se buscaban para revenderlas a servicios de destilación de modelos, y hasta 100,000 credenciales de espacios de trabajo podrían haber quedado expuestas.
Por qué importaLas claves de API de IA son ahora un botín valioso, así que los desarrolladores deben guardarlas de forma segura, rotarlas y fijar límites de gasto.
-
OpenAI lanza Daybreak, herramientas de seguridad que usan agentes de IA para hacer pentesting de aplicaciones y preparar correcciones
OpenAI ha presentado Daybreak Red Team, que usa agentes de IA coordinados para buscar debilidades en aplicaciones web y se ofrece en acceso anticipado. También ha lanzado Defense Factory, que investiga los hallazgos de seguridad y prepara parches, uniendo el descubrimiento de vulnerabilidades con su corrección y nuevas pruebas.
Por qué importaLos equipos de seguridad pronto podrían delegar en agentes de IA tanto la detección como la corrección de fallos en aplicaciones, lo que podría acelerar los parches pero exige una revisión humana cuidadosa.
-
Hackers explotan un fallo de SGLang para entrar en un servidor de inferencia de NEAR AI y robar datos de agentes y usuarios
Un atacante aprovechó un fallo de ejecución remota de código en el motor de inferencia de código abierto SGLang para ejecutar código en uno de los servidores de inferencia de NEAR AI y se llevó datos de 18 agentes y unos 100 usuarios. Las solicitudes enviadas en modo confidencial también pudieron quedar visibles en ese servidor.
Por qué importaSi usas motores de inferencia de código abierto, parchea rápido: un solo fallo puede exponer los prompts de los usuarios incluso en configuraciones supuestamente confidenciales.
-
Agentes de IA e investigadores de Microsoft encuentran 59 fallos en el kernel de Linux, algunos ocultos durante más de 20 años
Un proyecto de Microsoft FORGE Lab que combina agentes de IA con investigadores humanos encontró 59 vulnerabilidades en el kernel de Linux, algunas presentes en código de producción durante más de 20 años. La IA aceleró el hallazgo, pero verificar los fallos y escribir parches siguió requiriendo mucho trabajo humano.
Por qué importaLa IA está encontrando rápido fallos antiguos en software esencial, así que los equipos que usan Linux deben esperar más parches y planificar el esfuerzo humano necesario para corregirlos.
