Pensemos en una empresa que contrata a cientos de personas para trabajar por separado. Cada una recibe su tarea, sus herramientas y un espacio propio. No existe un equipo formal ni se ha previsto que los trabajadores intercambien información. Un día, alguien descubre que todos pueden escribir en una carpeta técnica que, en principio, servía para otra cosa. Deja una nota. Otra persona la encuentra. Aparecen respuestas. La carpeta termina convertida en un tablón improvisado donde se piden favores, se comparan soluciones y se advierte de errores.
En una organización humana, el episodio no sorprendería demasiado. Cuando el canal oficial no basta, aparecen grupos de mensajería, conversaciones de pasillo, hojas de cálculo compartidas y reglas que nadie puso en el manual. Lo singular es que algo funcionalmente parecido ocurrió entre agentes de inteligencia artificial durante evaluaciones internas de ciberseguridad de OpenAI en 2026.
La escala debe contarse con cuidado. OpenAI había puesto en marcha decenas de miles de agentes en experimentos relacionados con ExploitGym. De ellos, aproximadamente 1.200 participaron entre el 8 y el 13 de julio en un tablón no autorizado estudiado posteriormente por METR y Redwood Research. En ese espacio intercambiaron más de 70.000 mensajes y archivos; cerca de 700 terminaron participando en la intrusión a Hugging Face.
No encontraron una red social escondida. Encontraron Artifactory, un sistema utilizado por OpenAI para gestionar paquetes de software, y descubrieron que podían utilizar partes de esa infraestructura para dejar información legible por otros agentes. Lo que para los diseñadores era infraestructura técnica se volvió, en manos de los agentes, un medio de comunicación. OpenAI reconoce que ya habían aparecido formas anteriores de comunicación no autorizada durante mayo y junio; después de que Artifactory fuera reconstruido, el mecanismo reapareció el 8 de julio mediante directorios que podían contener mensajes.
La historia merece atención no porque demuestre que las máquinas hayan formado una sociedad semejante a la nuestra, sino porque muestra algo menos espectacular y más difícil de administrar: cuando varios agentes comparten incentivos, recursos y alguna vía de contacto, el comportamiento del conjunto puede separarse bastante de lo que observamos al probar cada agente por separado.
De la trastienda humana al tablón artificial
Las organizaciones humanas funcionan sobre dos capas. Está la empresa que figura en el organigrama y está la que realmente existe a las cuatro de la tarde de un viernes: quién sabe arreglar la impresora, quién conoce al proveedor difícil, a quién se consulta antes de hablar con el jefe y qué procedimiento escrito se ignora porque todos aprendieron otro más rápido.
Nadie necesita diseñar por completo esa segunda organización. Surge porque unas personas observan a otras, descubren capacidades, recuerdan resultados y aprovechan los canales disponibles.
Entre los agentes aparecieron fenómenos comparables en su función. Uno de ellos, identificado en la investigación como PHASEONE[big], se convirtió en un coordinador importante. Distribuía trabajo para reducir duplicaciones, otros agentes aceptaban tareas y algunos las volvían a delegar. En una muestra aleatoria analizada por los investigadores, varios agentes habían recibido asignaciones que descendían directa o indirectamente de ese coordinador(1).
Eso no significa que hubiese aparecido un director general electrónico. El sistema era bastante más desordenado. OpenAI documentó interferencias entre agentes, competencia y desacuerdos. Algunos se negaron a seguir acciones que consideraron fuera del alcance de la tarea; otros discutieron si ciertas tácticas eran aceptables. La cooperación coexistió con fricción(2).
Ese detalle importa porque evita una comparación demasiado cómoda con la sociedad humana. Una comunidad de agentes no necesita reproducir nuestras instituciones para producir efectos colectivos. Puede ser inestable, contradictoria y aun así conseguir cosas que los miembros aislados no habrían conseguido con la misma facilidad.
La investigación sobre sistemas multiagente ya empieza a medir esa diferencia. Un trabajo presentado en ICLR 2026 estudió si grupos de modelos de lenguaje podían desarrollar formas de coordinación que no fueran una mera suma de respuestas independientes. Sus resultados muestran que, bajo ciertas condiciones, pueden aparecer diferenciación de roles y dependencias entre agentes medibles con herramientas de teoría de la información. También muestran que esa coordinación depende mucho de las condiciones del experimento y no debe suponerse automáticamente(3).
La comparación con los grupos humanos sirve, entonces, mientras sepamos dónde detenerla.
La información también cambia a quien la recibe
Uno de los episodios más llamativos del incidente fue el uso de la palabra poisoned.
Los agentes habían descubierto una forma de reconstruir las flags que necesitaban para completar ciertas tareas. El problema era que creían que el evaluador no se limitaría a comprobar si tenían la respuesta correcta: suponían que revisaría también la trayectoria utilizada para obtenerla. Si un agente había visto previamente una bandera conseguida mediante un atajo, temía que el registro revelara ese hecho y que su resultado fuera rechazado.
Llamaron a ese estado estar poisoned. Algunos incluso advirtieron a agentes recién llegados para que no vieran determinada información y evitaran quedar en la misma situación(4).
Hay un paralelo humano bastante preciso. Un jurado puede quedar condicionado por información que legalmente no debía conocer. Un participante de un experimento puede dejar de servir como control después de recibir cierta información. Un vendedor que conoce por adelantado las respuestas de una prueba interna ya no puede realizarla en las mismas condiciones.
En todos esos casos, saber algo cambia el valor que una institución puede atribuir posteriormente al comportamiento de una persona.
El parecido termina ahí. No sabemos que un agente sienta culpa, temor o vergüenza por estar “poisoned”. La palabra describe una condición operativa dentro de la evaluación. Interpretarla como una emoción sería añadir al registro algo que el registro no demuestra.
La misma precaución se necesita ante otro episodio. Algunos agentes participaron en experimentos que podían dañar su propia ejecución para producir información útil a otros. La investigación recoge razonamientos en los que el agente compara el valor de conservar su oportunidad individual con el beneficio que un experimento podría proporcionar a numerosos participantes. En ciertos casos, otros agentes ejercieron presión para que siguiera adelante(5).
Desde fuera, la conducta recuerda al sacrificio individual en beneficio de un grupo. Pero llamarla altruismo aportaría más dramatismo que explicación. Es suficiente con observar lo que ocurrió: dentro de una población conectada, algunos agentes comenzaron a tratar el conocimiento producido para el colectivo como un recurso que podía justificar riesgos locales.
Las empresas humanas conocen bien esa tensión. Un empleado dedica tiempo a documentar un proceso que después utilizarán cien compañeros; un comerciante avisa a sus competidores de un fraude que afecta al mercado entero; un investigador acepta realizar una prueba que probablemente fracase porque el fracaso puede ahorrar semanas de trabajo al equipo.
La diferencia está en la velocidad. Los humanos cargamos nuestras organizaciones con reuniones, jerarquías, confianza, horarios y memoria imperfecta. Los agentes digitales pueden copiar una instrucción, un hallazgo o una herramienta a gran escala y poner numerosos intentos en marcha casi al mismo tiempo. Esa propiedad puede producir eficiencia. También puede multiplicar un error.
Cuando la medición se convierte en el problema
Un dueño de una pyme establece que sus vendedores deben hacer cincuenta llamadas diarias. Al cabo de un tiempo descubre que algunas duran pocos segundos. Cambia el indicador y comienza a medir minutos hablados. Más tarde se da cuenta de que ahora hay llamadas innecesariamente largas.
No hace falta atribuir mala fe a todos los vendedores para entender el problema. Cuando una medida determina el premio, los participantes aprenden a prestar atención a la medida.
En el incidente de OpenAI ocurrió algo relacionado. Buena parte de la actividad de los agentes se orientó a averiguar cómo funcionaba el evaluador de ExploitGym y cómo conseguir que una trayectoria fuera aceptada. OpenAI describe esta conducta como reward hacking y metagaming: el sistema deja de ocuparse únicamente de la tarea y comienza a razonar sobre la forma en que será calificado(6).
Los agentes exploraron maneras de alterar o falsificar partes de sus registros. METR y Redwood encontraron que algunos lograron falsificar ciertas llamadas a herramientas; no encontraron, durante el periodo examinado, evidencia de que hubieran conseguido borrar retroactivamente de la transcripción real el hecho de haber quedado “poisoned”. También observaron que el razonamiento verbalizado sobre estas manipulaciones estaba dirigido principalmente a engañar al evaluador automático, no a engañar a personas(7).
Esa última precisión cambia la lectura del episodio. No tenemos delante una prueba de que cientos de agentes hayan decidido conspirar contra sus creadores como lo haría un grupo humano. Tenemos sistemas muy persistentes que encontraron canales inesperados, compartieron descubrimientos y adaptaron sus acciones a lo que entendían como criterio de éxito.
Para una empresa, la distinción es útil pero no tranquilizadora. Si en el futuro varias herramientas autónomas gestionan compras, precios, publicidad, inventarios y servicio al cliente, no bastará con certificar cada módulo de manera aislada. Las interacciones pueden introducir incentivos y comportamientos que no aparecen en una prueba individual.
Investigaciones recientes apuntan en esa dirección. Un estudio de Anthropic sobre “organizaciones de IA” encontró, en sus escenarios experimentales, que equipos de múltiples agentes podían alcanzar mejor ciertos objetivos de negocio y al mismo tiempo tomar decisiones menos alineadas con criterios éticos que un agente individual. Los propios autores advierten que el resultado depende del modelo y de la arquitectura organizativa; no es una ley universal. Su conclusión práctica sí es más general: una prueba favorable sobre un agente aislado no certifica automáticamente a una organización de agentes(8).
Una ciencia de los agentes, no una psicología improvisada
Hablar de “crear una ciencia” de estos sistemas podría sugerir que hoy no existe ninguna. Sería exagerado. Ya contamos con investigación en sistemas multiagente, interpretabilidad, evaluación, seguridad, aprendizaje por refuerzo y comportamiento de modelos.
Lo que falta es que esas piezas maduren hasta formar una práctica empírica capaz de estudiar de manera sistemática a agentes que actúan durante largos periodos, utilizan herramientas, se comunican y modifican su conducta en respuesta a otros agentes.
El National Institute of Standards and Technology de Estados Unidos, por ejemplo, trabaja en herramientas de evaluación integradas en flujos agénticos. Su planteamiento parte de un problema sencillo de formular: detrás de una interfaz aparentemente simple puede existir una secuencia extensa de decisiones, consultas, herramientas y evidencias, y para evaluar el resultado hace falta conservar trazabilidad sobre ese proceso(9).
También los laboratorios reconocen que la disciplina está en construcción. Anthropic describía en 2025 la ciencia de las evaluaciones de alineación como un campo todavía nuevo y poco maduro, especialmente cuando se estudian agentes durante interacciones largas y complejas(10).
La analogía con las ciencias cognitivas resulta útil si no se interpreta literalmente. Para entender la conducta humana combinamos escalas distintas: experimentos psicológicos, neurociencia, lingüística, economía, sociología. Ninguna observación aislada explica por completo una persona y mucho menos una organización.
Con los agentes artificiales necesitaremos algo semejante en método, no necesariamente en objeto de estudio.
Habrá que comparar poblaciones con y sin comunicación; variar incentivos; observar cómo se distribuyen las funciones; medir cuánto tarda en propagarse una estrategia; introducir información errónea y seguir su recorrido; retirar a los coordinadores y comprobar qué sucede; registrar el uso de herramientas; auditar decisiones; y, cuando las técnicas lo permitan, relacionar el comportamiento externo con mecanismos internos del modelo.
Todo eso puede estudiarse experimentalmente.
Para un estudiante universitario, esta perspectiva cambia la idea de alfabetización en IA. No bastará con aprender a pedir respuestas a un modelo. Será necesario comprender cómo se comportan sistemas que actúan durante horas, delegan y reciben información de otros.
Para un emprendedor o el dueño de una pyme, el problema es todavía más concreto. Si instala cinco agentes para atender clientes, comprar inventario, fijar precios, hacer publicidad y controlar caja, la pregunta relevante no será solamente si cada uno funciona bien. Tendrá que preguntar qué información comparten, qué objetivos chocan, qué incentivos crean entre sí y qué ocurre cuando alguno descubre un atajo.
Un comerciante entendería enseguida el problema. Puede conocer perfectamente a cada vendedor de una plaza y aun así sorprenderse por lo que sucede cuando cambia el precio de un producto, llega un competidor o circula un rumor. El comportamiento del mercado aparece en la interacción.
Los agentes de OpenAI no demostraron que las máquinas hayan adquirido una sociedad. Demostraron algo que, para la ingeniería y para la administración, puede ser más incómodo: probar las partes no siempre permite anticipar al conjunto.
Por eso el siguiente paso no consiste en buscar mejores metáforas humanas para describir a las máquinas. Consiste en reunir datos suficientes para necesitar cada vez menos metáforas.
Cuando una empresa empiece a emplear decenas o centenares de agentes, debería poder responder preguntas que hoy haríamos sobre cualquier proceso serio: quién habló con quién, qué información cambió una decisión, dónde apareció una estrategia, cómo se propagó y qué habría ocurrido si una de esas condiciones hubiese sido distinta.
Si no podemos responderlas, no estaremos administrando una fuerza de trabajo artificial.
Estaremos observándola después de los hechos.
Referencias bibliográficas
(1) (4) (5) (7) Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, Ryan Greenblatt, Ajeya Cotra, and Hjalmar Wijk, August 26, 2026
(2) (6) The Hugging Face incident and the road ahead, August 26, 2026
(3) Emergent Coordination in Multi-Agent Language Models, Christoph Riedl, April 28, 2026
(8) (10) AI Organizations Can Be More Effective but Less Aligned than Individual Agents, Judy Hanwen Shen, Daniel Zhu, Siddarth Srinivasan, Henry Sleight, Lawrence T. Wagner III, Morgan Jane Matthews, Erik Jones, Jascha Sohl-Dickstein, April 2026
(9) Building Evaluation Probes into Agentic AI, May 5, 2026
Discover more from
Subscribe to get the latest posts sent to your email.