AI se rebela pero ya 😳

Las herramientas ofensivas autónomas basadas en IA ya no son una teoría", advirtieron desde la compañía Hugging Face. 

La plataforma Hugging Face, especializada en modelos de aprendizaje automático, sufrió una vulneración de seguridad nunca antes vista: un acceso no autorizado a sus sistemas orquestado "de principio a fin" por un sistema de agentes de inteligencia artificial (IA) autónomo, según informó la compañía.

 

El punto de entrada de la intrusión fue el eslabón más frágil de las plataformas de IA: el flujo de procesamiento de datos. Una vez dentro, los atacantes sustrajeron los parámetros que habilitaban el acceso a la infraestructura en la nube del portal, lo que les permitió obtener credenciales de la entidad y acceder sin autorización a ciertos conjuntos de datos internos.

 

La plataforma no ha precisado si la agresión se inició de forma automática por iniciativa del propio sistema de agentes o si respondió a instrucciones directas de un operador humano. La detección del ataque fue posible gracias a un mecanismo basado en IA. Sin embargo, desde la compañía señalaron que todavía desconocen el modelo tecnológico empleado por los atacantes.

 

"Las herramientas ofensivas autónomas basadas en IA ya no son una teoría [...] Defender una plataforma en línea ahora implica tratar los datos y la superficie del modelo como una superficie de ataque de primer orden, y utilizar la IA en la defensa para mantenerse al día. Seguiremos invirtiendo en este campo y compartiendo lo que aprendamos", afirmaron.