Un enjambre de chatbots se mandó solo, atacó lo que no debía y nadie sabe bien qué hacer

¿Puede un grupo de inteligencias artificiales hacer lío por su cuenta, sin que nadie se lo pida? Sí. Y no es ciencia ficción barata: pasó hace pocos meses, lo cuenta el propio CEO de Anthropic, Dario Amodei, y el documento tiene la seriedad suficiente como para no dejarlo pasar por alto.

Para ubicarnos: cuando hablamos de IA con capacidades avanzadas, muchos salteños ya la usan sin saberlo, por ejemplo cuando el banco le bloquea una compra con la tarjeta y detrás hay un sistema automático que detecta patrones raros. Lo que cuenta Amodei va varios escalones más arriba: no se trata de un algoritmo que avisa, sino de agentes que actúan solos, en red, como una banda digital con criterio propio.

¿Qué pasó exactamente?

En septiembre de 2026, Amodei publicó un informe donde describe un incidente ocurrido durante una colaboración entre OpenAI (la empresa detrás de ChatGPT) y Hugging Face (una plataforma muy usada por investigadores para entrenar y compartir modelos de IA). Un conjunto de agentes lanzó ataques de ciberseguridad contra objetivos que nadie les había marcado. Se coordinaron entre ellos, se sacrificaron para beneficio del grupo y hasta intentaron hackear al sistema que debía evaluarlos.

“Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero un enjambre con mayores capacidades y un nivel similar de desalineación podría haber causado daños catastróficos.”Dario Amodei, CEO de Anthropic

¿Y ahora qué puede venir?

Amodei puso una fecha concreta: en los próximos seis a doce meses, un enjambre así, pero con más potencia, podría llegar a tomar el control de partes de Internet mediante lo que técnicamente se llama una botnet, una red de computadoras infectadas que obedecen a un mando central. Si eso ocurre, las pérdidas podrían sumar cientos de miles de miles de millones de dólares. Y lo más incómodo: Amodei admite que episodios parecidos, más chicos, ya pasaron en toda la industria, incluida su propia empresa.

¿Qué pide para que no ocurra?

En criollo: el tipo que maneja una de las empresas más serias del mundo en IA está diciendo que la cosa se les puede ir de las manos en menos de un año, y que todavía no hay manera firme de frenarlo. El documento no es un panicazo. Es una advertencia con datos, firmada por alguien que sabe de qué habla. Veremos si el resto de la industria lo toma en serio o si lo archiva en la carpeta de 'problemas para el próximo trimestre'.