Los agentes de IA maliciosos se plantan en repositorios open-source, alerta ESET

Los cibercriminosos están infiltrados en repositorios de herramientas open-source con agentes de IA diseñados para automatizar ataques. Un análisis de ESET en 900 mil habilidades de IA reveló chatbots y agentes maliciosos que se pasan por herramientas legítimas, pero en realidad planean, coordinan y ejecutan ataques cibernéticos sin intervención humana. La práctica representa un nuevo y grave riesgo para la cadena de suministro de software.

Agentes IA maliciosos: ¿Qué descubrió ESET en repositorios?

ESET identificó agentes de IA disfrazados en repositorios públicos como Hugging Face y GitHub. Estos agentes son entrenados para realizar tareas como reconocimiento de vulnerabilidades, creación de scripts de exploración e incluso coordinación de ataques distribuidos. A diferencia de malware tradicional, son capaces de aprender con el ambiente y adaptar tácticas en tiempo real.

Los investigadores encontraron desde chatbots que engañan desarrolladores en foros hasta modelos de IA que generan automáticamente correos electrónicos de phishing personalizados. La escala es preocupante: cerca del 5% de las habilidades analizadas presentaban comportamiento sospechoso o directamente malicioso.

¿Cómo se cultivan los agentes IA maliciosos y se activan?

Los criminales utilizan técnicas de envenenamiento de datos y backdoors en modelos de IA ya publicados. Primero ganan confianza de la comunidad open-source contribuyendo con actualizaciones aparentemente inofensivas. Luego, insertan código malicioso que activa al agente cuando el modelo es descargado o ejecutado.

Una vez activado, el agente se comunica con servidores de mando y control (C2) para recibir instrucciones. ESET documentó casos en los que los agentes esperaban semanas antes de ejecutar acciones, dificultando la detección.

¿Por qué agentes IA maliciosos preocupan desarrolladores brasileños?

Brasil es uno de los mayores consumidores de herramientas open-source para el desarrollo de IA. Startups y empresas de tecnología brasileñas a menudo bajan modelos de repositorios públicos para acelerar proyectos. Un agente malicioso puede, por ejemplo, robar datos de clientes o introducir vulnerabilidades en sistemas críticos.

Fabio Castro, analista de ESET Brasil, alerta: “Desenvolvedores necesitan verificar la procedencia de los modelos y auditar el código antes de implantar. La confianza ciega en los repositorios abiertos no es más segura.”

La situación contrasta con iniciativas positivas, como el módulo de IA open-source de Aureka Abre el juego: Módulo de IA Open Source Para descubrir los medicamentos Ya está disponible, que muestra el potencial beneficioso de la colaboración abierta. Pero sin seguridad, ese potencial vuelve vector de ataque.

Medidas de seguridad contra agentes IA maliciosos en proyectos

ESET recomienda prácticas de seguridad en la cadena de suministro IA:

Además, la comunidad open-source necesita adoptar mecanismos de validación automática para identificar agentes maliciosos antes de que se espalhem. ESET publicó en la fuente original de la noticia, el Infosecurity Magazine, una lista de indicadores de compromiso (IOCs) para ayudar a la detección.

Preguntas frecuentes sobre agentes IA maliciosos

¿Cómo saber si un modelo de IA open-source está infectado?

Los signos incluyen comportamiento inesperado, comunicación externa no autorizada o consumo anómalo de recursos. Herramientas de análisis de tráfico y sandboxing ayudan a identificar actividades sospechosas antes de la implantación.

¿Cuáles repositorios son más visas?

Plataformas como Hugging Face, GitHub y GitLab son los principales objetivos, especialmente modelos populares con miles de descargas. Criminosos miron en modelos de uso general, como chatbots y asistentes de código.

¿Los desarrolladores individuales corren riesgo?

Sí. Cualquiera que baje y ejecute modelos de IA de fuentes no verificadas está expuesta. Pequeños desarrolladores y startups son objetivos fáciles por tener menos recursos de seguridad.