El problema de las charlas de IA que siempre se ponen de acuerdo en lo mismo (y cómo solucionarlo)

Mira, colega, te voy a contar la última movida que han soltado en el mundillo de la inteligencia artificial. Resulta que esos sistemas de debate entre múltiples IAs, esos que usan para que se corrijan entre ellas y den respuestas más fiables, tienen un problema gordo: se vuelven un círculo vicioso de postureo. Imagínate a un grupo de colegas discutiendo en un bar, pero siempre el mismo listo de turno acaba imponiendo su opinión porque habla más alto o porque está sentado en el sitio estratégico. Pues eso mismo pasa con los modelos de lenguaje grandes (LLMs) cuando los ponen a debatir en topologías fijas. Se generan sesgos posicionales, los agentes poco fiables se convierten en los reyes del mambo y todo es supersensible a quién le toca qué rol. Un lío.

Pues un equipo de investigadores ha dicho: 'Basta ya de esta jerarquía de mierda'. Y han creado el PEAR, que suena a fruta pero es un protocolo de inferencia que se llama Permutation-Equivariant Adaptive Routing Multi-Agent Debate. Vamos, que han inventado un sistema que, mientras los bichos están discutiendo, cambia los roles y las conexiones entre ellos sobre la marcha. Como si en medio de una conversación, el que estaba callado de repente se convirtiera en moderador y el que soltaba la chapa se quedara en segundo plano. La clave está en que es 'equivariante a permutaciones', que es una forma fina de decir que da igual el orden en que lleguen los agentes o cómo los coloques; el sistema se adapta para que no haya un cabrón que monopolice el debate.

Y ojo, que esto no es solo teoría. Han probado el PEAR con un montón de benchmarks y resulta que mejora la precisión y la robustez de las respuestas, sobre todo cuando hay agentes que meten la pata. Es como si en la oficina, en lugar de que el jefe de siempre decida, se pusiera a rotar el liderazgo según quién tenga la razón en ese momento. Una pasada. Al final, lo que han hecho es quitarle el poder a la estructura fija y dárselo al flujo de la conversación. Y eso, colega, es un avance muy guapo para que las IAs no se conviertan en una secta de cuatro iluminados que siempre dan la misma respuesta.

Segun ha adelantado el medio arXiv AI.