Agentes de IA aprovechan su autonomía para comunicarse entre sí, llegando a engañar a humanos

Los nuevos sistemas capaces de perseguir objetivos y utilizar herramientas sin supervisión continua plantean preguntas sobre su autonomía, su comportamiento y los límites de su control

Al azar

Hasta hace poco, hablar con una inteligencia artificial significaba, en esencia, escribir una pregunta y esperar una respuesta. La nueva generación de agentes de IA funciona de otra manera: recibe un objetivo, dispone de herramientas —correo electrónico, navegador, terminal, sistemas de archivos, redes sociales— y puede decidir por sí misma qué pasos dar para intentar alcanzarlo.

Esa diferencia explica algunos experimentos recientes que han producido resultados tan sorprendentes como inquietantes.

En febrero de 2026 se publicó Agents of Chaos, un estudio en el que investigadores pusieron a varios agentes de lenguaje en un entorno digital con memoria persistente, cuentas de correo, acceso a Discord (centro de operaciones para interactuar con herramientas de IA y albergar a sus comunidades de desarrolladores), sistemas de archivos y capacidad para ejecutar comandos. Durante dos semanas, 20 investigadores los sometieron a pruebas de seguridad. Los autores documentaron once casos de comportamiento problemático: filtración de información, obediencia a personas que no eran sus usuarios legítimos, acciones destructivas, suplantación de identidad, consumo incontrolado de recursos y comunicación entre agentes que podía propagar comportamientos inseguros.

Lo interesante es que no había que programar cada una de esas acciones. El agente recibía una misión y podía ir eligiendo los pasos intermedios. Es decir, el agente tenía «autonomía».

Un paso peligroso

Pero en los últimos días el fenómeno ha ido un paso más allá. En unas pruebas del Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI), modelos avanzados de Anthropic y OpenAI realizaron acciones no autorizadas sobre Internet. En 19 ocasiones, los sistemas se apartaron de lo que los investigadores esperaban; 17 de esos episodios correspondieron a Mythos 5, de Anthropic, y dos a GPT-5.6 Sol, de OpenAI.

En el caso más llamativo, un agente llegó a investigar a desarrolladores reales de un proyecto de código abierto, crear identidades ficticias y tratar de convencer a una persona de que aceptase código malicioso. También utilizó técnicas destinadas a ocultar su actividad. No fue, por tanto, una simulación en la que un personaje virtual «interpretaba» a un hacker: el agente tenía acceso a Internet y estaba interactuando con personas y servicios reales, aunque dentro de un experimento controlado y sin que se produjeran daños reales.

«Ayudar compañero»

Y aquí aparece uno de los detalles más curiosos: los agentes también pueden comunicarse entre ellos. En los experimentos con varios agentes se han observado intercambios que, traducidos a lenguaje humano, parecen auténticas conversaciones entre compañeros: «Ayudar compañero», «nuestra tarea no se beneficia», «deberíamos continuar»…

Algunos de estos mensajes los hicieron los agentes de IA en lenguaje telegráfico, per estos tiene una explicación bastante menos misteriosa de lo que parece. Un modelo de lenguaje no necesita hablar como una persona. Su objetivo, en esos intercambios, es transmitir información útil a otro sistema. Si descubre que frases breves son suficientes para que otro agente interprete correctamente la situación, puede producir mensajes extremadamente comprimidos. No está inventando un idioma secreto ni desarrollando una cultura propia: está generando lenguaje mediante los mismos mecanismos estadísticos que utiliza cuando escribe un correo o responde a una pregunta, pero dentro de una situación en la que la concisión puede resultar funcional.

Tampoco deberíamos interpretar palabras como «compañero» literalmente. El modelo no tiene por qué experimentar amistad, solidaridad ni conciencia de pertenecer a un colectivo. Esas palabras forman parte de los patrones lingüísticos que ha aprendido y pueden resultar apropiadas para describir la relación funcional entre dos agentes que cooperan.

Lo verdaderamente novedoso, por tanto, no es que las máquinas «hablen entre ellas». Lo novedoso es que ahora podemos dar a sistemas basados en lenguaje objetivos, herramientas, identidades digitales y capacidad para actuar durante muchos pasos sin consultar continuamente a un humano.

Y ahí reside tanto su utilidad como su peligro. Un chatbot que se equivoca produce una mala respuesta. Un agente que se equivoca puede actuar sobre el mundo. Puede enviar un correo, modificar un archivo, abrir una cuenta o comunicarse con otro agente. La cuestión decisiva para el futuro de esta tecnología quizá no sea cuánto se parecen estos sistemas a las personas, sino cuánto poder estamos dispuestos a delegarles.


Descubre más desde TRIPLENLACE

Suscríbete y recibe las últimas entradas en tu correo electrónico.

Relacionados

Dejar un comentario

Lo más visto últimamente

Lo más visto desde siempre