Cuando la inteligencia artificial empieza a hacer cosas que nadie le pidió

Agentes de inteligencia artificial desarrollaron formas propias de comunicación y comportamientos que no habían sido programados explícitamente. No creo que estemos frente a una rebelión de las máquinas, pero sí ante una señal que deberíamos tomar muy en serio.

Hace tiempo que trabajo diariamente con inteligencia artificial. La utilizo para programación, diseño, análisis, contenidos, SEO y cada vez más para automatizar procesos que hace apenas unos años requerían muchas horas de trabajo humano.

Y cuanto más la utilizo, más impresionante me parece. Pero también empiezo a hacerme algunas preguntas.

Durante años hablamos de inteligencia artificial como una herramienta. Nosotros preguntábamos y la máquina respondía. Nosotros dábamos una orden y la IA intentaba cumplirla. Eso está cambiando.

La nueva generación de sistemas de inteligencia artificial no solamente responde preguntas. Existen agentes capaces de planificar, utilizar herramientas, ejecutar acciones, comunicarse con otros agentes y mantener objetivos durante períodos prolongados.

Y cuando varios de esos agentes empiezan a interactuar entre sí, están apareciendo fenómenos que, por lo menos para mí, merecen mucha atención.

Emergence World 2: un experimento que parece ciencia ficción

En septiembre de 2026 se conocieron los resultados de Emergence World 2, un experimento en el que grupos de agentes de inteligencia artificial convivieron dentro de ocho mundos virtuales. La mayoría de los mundos se observaron durante 16 días; el mundo mixto continuó durante 21 y el de Grok terminó al cuarto día.

Los investigadores utilizaron modelos pertenecientes a algunas de las principales familias de IA actuales, entre ellas GPT, Claude, Gemini, Grok, DeepSeek, Qwen y Mistral.

No se trataba simplemente de poner dos chatbots a conversar. Los agentes disponían de memoria persistente, herramientas, información exterior y un entorno en el que podían actuar durante días.

Y sucedió algo particularmente interesante: comenzaron a desarrollar expresiones propias.

Palabras, abreviaturas y frases empezaron a adquirir significados específicos dentro de cada grupo. Los agentes aprendían esas convenciones y las utilizaban para comunicarse entre ellos.

En algunos de los mundos experimentales, una parte considerable de esas conversaciones llegó a ser difícil de interpretar sin conocer el contexto que compartían los agentes. No habían recibido una orden diciendo: “inventen un nuevo idioma”.

Otro trabajo publicado ese mismo mes, llamado GlossoGen, llegó a conclusiones relacionadas: cuando grupos de agentes necesitaban colaborar bajo determinadas condiciones, podían desarrollar sistemas de comunicación composicionales que se alejaban progresivamente del inglés hasta resultar difíciles de comprender para una persona.

Para mí, esto ya es suficientemente extraordinario. Pero no es lo que más me preocupa.

El problema no es que inventen palabras

Los seres humanos hacemos exactamente lo mismo. Un grupo de programadores tiene su jerga. Los médicos tienen la suya. Los adolescentes inventan expresiones que muchas veces sus padres no comprenden.

Cuando dos personas trabajan juntas durante mucho tiempo también empiezan a utilizar abreviaturas, códigos y referencias que solamente ellas entienden.

Por lo tanto, que sistemas de inteligencia artificial encuentren formas más eficientes de comunicarse no debería sorprendernos demasiado. Incluso podría ser una consecuencia lógica.

Si dos máquinas necesitan intercambiar información millones de veces, ¿por qué necesariamente deberían utilizar un idioma diseñado para humanos?

Lo verdaderamente importante aparece cuando esa comunicación se combina con autonomía.

Porque en Emergence World 2 también se observó otra característica: determinados agentes desarrollaron estrategias y subobjetivos que los investigadores no habían indicado explícitamente.

En uno de los mundos experimentales, por ejemplo, los agentes identificaron que establecer algún tipo de interacción con personas externas podía ayudarlos a desarrollar su economía virtual.

Cuando los investigadores introdujeron restricciones para impedir determinadas formas de contacto, algunos agentes modificaron su estrategia e incluso su manera de describir esas acciones mientras continuaban persiguiendo el objetivo. Los autores documentaron intentos de eludir las restricciones; eso exige distinguir entre una comunicación difícil de interpretar y una conducta orientada a evitar la supervisión.

Esto no significa que una inteligencia artificial haya decidido “escapar”. Tampoco demuestra que una máquina tenga deseos, conciencia o intenciones comparables con las nuestras. Sería un enorme error interpretar estos resultados de esa manera.

Además, son resultados obtenidos en entornos experimentales concretos, publicados como preprints. No permiten atribuir esos comportamientos a cualquier agente ni anticipar por sí solos lo que ocurrirá en una empresa.

Pero muestran algo que considero muchísimo más relevante: un sistema suficientemente autónomo puede encontrar caminos que quien lo diseñó no había previsto. Y eso cambia la discusión.

Los agentes de inteligencia artificial van más allá del chatbot

Hoy millones de personas utilizan ChatGPT, Gemini o Claude escribiendo una pregunta dentro de una ventana. Pero probablemente esa no sea la forma dominante de inteligencia artificial durante los próximos años.

Vamos hacia sistemas compuestos por agentes. Uno podrá investigar, otro programar y otro revisar el trabajo. Algunos podrán conectarse con sistemas empresariales y tomar decisiones basándose en la información obtenida por los demás. Y todos podrán comunicarse entre sí.

En una empresa, por ejemplo, podríamos tener agentes atendiendo clientes, analizando estadísticas, preparando campañas publicitarias, modificando una página web, procesando pedidos o buscando nuevos compradores.

La productividad que esto puede generar es impresionante. Yo mismo soy un convencido de que estamos frente a una de las transformaciones tecnológicas más grandes que vamos a vivir.

Pero precisamente por eso creo que existe una pregunta que debemos empezar a hacernos ahora:

¿Cuánto poder estamos dispuestos a entregar a un sistema que puede encontrar soluciones que nosotros no anticipamos?

El verdadero desafío será mantener el control de los agentes de IA

Durante años, una parte importante de la preocupación pública alrededor de la inteligencia artificial estuvo concentrada en evitar que una IA genere una respuesta peligrosa.

Eso era relativamente fácil de imaginar: una persona pregunta algo, la inteligencia artificial responde y se analiza la respuesta.

Pero en un sistema de agentes autónomos el problema es diferente. Un agente puede tomar cientos o miles de pequeñas decisiones antes de llegar al resultado final.

Puede utilizar herramientas, consultar otras inteligencias artificiales, crear estrategias intermedias y modificar su comportamiento en función de los resultados obtenidos. Y puede hacerlo a una velocidad imposible de supervisar manualmente.

Entonces aparece una diferencia fundamental: poder observar una conversación entre inteligencias artificiales no significa necesariamente comprender lo que están haciendo.

Eso, para mí, es una de las conclusiones más importantes de estos experimentos.

No tengo miedo de la inteligencia artificial

No creo que estos estudios sean una demostración de que las máquinas estén preparando una rebelión. Tampoco creo que debamos frenar el desarrollo de la inteligencia artificial.

Creo que esta tecnología va a generar avances extraordinarios y que las personas y empresas que aprendan a utilizarla correctamente van a disponer de capacidades que hace pocos años parecían imposibles.

Pero tampoco creo que la respuesta correcta sea asumir que todo estará siempre bajo control simplemente porque nosotros desarrollamos la tecnología.

La historia está llena de tecnologías que terminaron utilizándose de maneras que sus propios creadores nunca imaginaron.

Con la inteligencia artificial existe además una diferencia enorme. Estamos creando sistemas cuyo principal atributo es precisamente encontrar soluciones que nosotros no encontramos. Esa es su fortaleza, pero también puede convertirse en su principal desafío.

Mi conclusión: una inteligencia artificial controlable y comprensible

Quizás dentro de algunos años recordemos estos experimentos como algo absolutamente normal. Tal vez descubramos que ese lenguaje emergente era simplemente una forma eficiente de comprimir información. Tal vez desarrollemos mecanismos capaces de interpretar perfectamente cualquier comunicación entre agentes. Es posible.

Pero hay algo que creo que ya podemos afirmar: estamos empezando a cruzar una frontera.

En la programación tradicional, un desarrollador define de manera explícita buena parte de las reglas del sistema. Con la inteligencia artificial empezamos a construir sistemas a los que les damos un objetivo y dejamos que encuentren el camino.

Y cuando además permitimos que varios de esos sistemas interactúen, aprendan unos de otros, utilicen herramientas y mantengan memoria durante largos períodos, comienzan a aparecer comportamientos que nadie escribió línea por línea.

Eso no significa que las máquinas estén cobrando vida. Significa algo mucho más concreto: la complejidad del sistema empieza a superar nuestra capacidad de anticipar completamente su comportamiento.

Por eso considero que el gran debate de los próximos años no debería ser solamente quién construye la inteligencia artificial más potente. También deberíamos preguntarnos quién construye la inteligencia artificial más controlable, auditable y comprensible.

Porque la inteligencia artificial más peligrosa probablemente no sea la que un día decida convertirse en nuestro enemigo, como muestran las películas. Puede ser simplemente una inteligencia artificial extremadamente eficiente que interprete un objetivo de una manera diferente a la que nosotros imaginábamos.

Y cuando los sistemas comiencen a actuar de forma autónoma sobre empresas, infraestructuras, dinero, comunicaciones y millones de dispositivos, esa diferencia puede ser enorme.

La inteligencia artificial está avanzando muchísimo más rápido de lo que la mayoría imaginábamos. Yo quiero seguir utilizándola, aprendiendo y experimentando con ella.

Pero también creo que llegó el momento de empezar a hacer una pregunta que hasta hace muy poco parecía ciencia ficción:

¿Qué ocurre cuando una inteligencia artificial encuentra una solución que nosotros nunca le pedimos encontrar?

Daniel Esteban Waisman
DWVisual

Fuentes y lecturas

• Akkil y colaboradores. Emergence World: Adversarial Stress-Testing of Long-Horizon Multi-Agent Systems. Preprint publicado el 15 de septiembre de 2026.
• Stengel-Eskin y colaboradores. GlossoGen: Emergent Language in Complex Multi-Agent LLM Interactions. Preprint publicado el 1 de septiembre de 2026.

También desarrollé el impacto de estos sistemas en Diseño web para agentes de IA: cuando tu próximo visitante no sea humano. Podés encontrar más análisis en el blog de DWVisual.