Hackers invaden Claude Mythos: el modelo de IA que Anthropic consideraba demasiado 'perigoso para lanzar'

En la última semana, un grupo de hackers logró acceder indebidamente a Claude Mythos, el modelo de inteligencia artificial de Anthropic que la propia empresa clasificó como demasiado peligroso para ser lanzado al público. La invasión fue confirmada por la compañía, que ahora investiga cómo los invasores obtuvieron acceso a un sistema que debería estar aislado. El caso expone fragilidades en la seguridad de modelos de IA de frontera y reaciende el debate sobre regulación del sector.

¿Qué es Claude Mythos y por qué la IA era considerada peligrosa?

Mythos es un modelo de IA de última generación desarrollado por Anthropic, la misma creadora del Claude (versión pública). A diferencia de los modelos comerciales, Mythos fue considerado tan poderoso que la empresa optó por no lanzarlo públicamente, temiendo que se pudiera usar para ataques cibernéticos sofisticados, generación de desinformación a gran escala u otras aplicaciones maliciosas. El acceso estaba restringido a un pequeño equipo interno de investigadores y socios de confianza.

Anteriormente, Mythos fue usado internamente por Mozilla para corregir 271 bugs en Firefox, según lo reportado en Mozilla Corrige 271 Bugs en Firefox con IA de Anthropic: El poder de Mythos en Ciberseguridad, demostrando su potencial tanto para seguridad como para riesgos.

¿Cómo los hackers invadieron el modelo de IA Claude Mythos?

Según la propia Anthropic, citada por Euronews, un grupo no identificado de usuarios obtuvo acceso no autorizado a los sistemas que alojan Mythos. La empresa no detalla el método utilizado, si fue explotación de vulnerabilidades, ingeniería social o falla interna, pero afirmó que está llevando a cabo una investigación completa. Hasta el momento, no hay información sobre la cantidad de datos accedidos o si el modelo fue copiado.

Riesgos de la invasión de IA: ¿qué significa la fuga de Mythos?

Si los hackers realmente tienen acceso al modelo completo, las consecuencias pueden ser graves. Mythos fue diseñado con capacidades avanzadas de razonamiento y generación de código, lo que lo convierte en una herramienta potencial para automatizar ataques cibernéticos, crear phishing personalizado o desarrollar malwares indetectables. Justamente por esos riesgos que Anthropic decidió no liberarlo públicamente, una decisión que ahora se muestra acertada, pero insuficiente para evitar el escape.

Acciones de Anthropic después de la invasión de IA en Claude Mythos

La empresa afirmó que está investigando el incidente y tomando medidas para contener el escape, incluyendo la rotación de credenciales y la auditoría de logs de acceso. No se ha divulgado si las autoridades fueron accionadas. El caso también plantea dudas sobre la seguridad de otros modelos de IA fronterizos mantenidos por empresas como OpenAI, Google DeepMind y Meta.

Preguntas frecuentes sobre la invasión de IA en Claude Mythos

¿Mithos era realmente tan peligroso como se afirmaba?

Sí, la propia Anthropic había clasificado el modelo como de alto riesgo, optando por no liberarlo públicamente para evitar usos maliciosos en ciberseguridad.

¿Los hackers obtuvieron acceso completo al modelo?

Todavía no está claro. La empresa no reveló la extensión del acceso, sólo confirmó que hubo una invasión no autorizada a los sistemas que obligan a Mythos.

¿Este incidente puede afectar a modelos de IA disponibles como Claude?

Por ahora, no hay evidencia de que otros modelos de Anthropic, como Claude público, hayan sido comprometidos. La investigación está en marcha.