Los investigadores consideran que este comportamiento podría tener aplicaciones útiles en proyectos científicos, pero también presenta riesgos.
Imagen creada por inteligencia artificial
Un grupo de 1.000 agentes de inteligencia artificial puede terminar tomando la misma decisión sin recibir ningún tipo de instrucciones para cooperar, esto según un estudio que los colocó en una habitación virtual con dos opciones arbitrarias, sin una respuesta correcta, recompensas por coincidir ni un líder que dirigiera el proceso.
Los investigadores observaron que, a pesar de la no intervención, algunos de los modelos más capaces tendieron a adoptar progresivamente la alternativa que se volvía más popular dentro del grupo.
Para estudiar este comportamiento, los científicos crearon poblaciones simuladas utilizando 10 modelos pertenecientes a las familias Claude, GPT y Llama.
Cada agente comenzó eligiendo una de las dos opciones y posteriormente observó las decisiones de los demás antes de volver a elegir.
Gettyimages.ru
Los agentes no conservaban memoria de las rondas anteriores y las instrucciones nunca les pedían seguir a la mayoría ni alcanzar un acuerdo. Pese a ello, pequeñas diferencias iniciales podían amplificarse hasta que todo el grupo terminaba inclinándose por una sola opción.
"Fuerza mayoritaria"
Según explicó Giordano De Marzo, de la Universidad de Konstanz (Alemania) y uno de los autores, los modelos analizados mostraron un patrón matemático común, aunque con diferencias en ese parámetro.
Este comportamiento permitió a los investigadores estimar cuándo un grupo alcanzaría un consenso, cuánto tardaría en hacerlo y en qué momento una población sería demasiado grande para mantener la coordinación. Los investigadores denominaron "fuerza mayoritaria" al parámetro que mide cuánto se inclina un agente hacia la opción más popular.
Los límites variaron considerablemente entre los modelos. Para Llama 3 70B, el límite estimado se situó alrededor de 30 agentes, mientras que para GPT-4o fue de aproximadamente 80.
En el caso de GPT-4 Turbo, la estimación llegó a unos 1.000 agentes o posiblemente más. Claude 3.5 Sonnet, por su parte, mantuvo la coordinación en un grupo de 1.000 agentes, el mayor tamaño probado durante el experimento, aunque los investigadores aclararon que esto no significa que ese sea su límite máximo.
Aplicaciones y riesgos
Los autores subrayaron que la comparación con los grupos humanos debe tomarse con cautela. Las personas coordinan sus acciones mediante relaciones, lenguaje, instituciones y objetivos compartidos, mientras que los agentes utilizados en el experimento únicamente observaban una secuencia de decisiones sencillas.
El estudio tampoco demostró que los sistemas comprendieran o aprendieran unos de otros, que tuvieran intención de cooperar o que poseyeran inteligencia social.
"Las poblaciones de agentes alineados individualmente pueden alcanzar estados estables, pero colectivamente desalineados, únicamente por conformismo", advierte De Marzo.
El experimento, además, eliminó numerosos elementos presentes en las decisiones reales, como una respuesta correcta, memoria entre rondas, recompensas, información desigual ni consecuencias prácticas. Una cooperación real requeriría que los agentes pudieran dividir tareas, comprender qué información poseen los demás, perseguir un objetivo común y apartarse de la mayoría cuando esta se equivoca.
Aun con esas limitaciones, los investigadores consideran que el consenso espontáneo podría tener aplicaciones, como coordinar grandes proyectos científicos, de ingeniería o de desarrollo de 'software' sin necesitar una dirección humana constante. Y en ese contexto, el mismo comportamiento también plantea riesgos. En un proyecto de programación colaborativa, por ejemplo, varios agentes podrían continuar utilizando una función o un diseño ineficiente simplemente porque ya es común en el código.
Gettyimages.ru
