El problema de los agentes de código: se vuelven túneles y se pierden lo mejor

Mira, llevo un rato dándole vueltas a esto que han soltado en arXiv y creo que toca hablarlo claro. Resulta que los agentes de código que se pasan horas y horas optimizando soluciones —como esos bichos que llaman "autoresearch"— tienen un problema gordo: se obcecan. Se les mete una idea en la cabeza y ya no ven más allá. Es como cuando estás programando y te empeñas en arreglar una mierda de función durante tres días, cuando igual tirarlo todo y empezar de cero te llevaba dos horas.

El paper este (que es de esos de arXiv con número de expediente y todo) señala algo que yo he visto mil veces en proyectos reales: estos sistemas se aferran a un enfoque general y luego se dedican a hacer retoques finos, como quien pule una piedra que igual ni es la que toca. Y mientras, se pierden otras aproximaciones que podrían ser muchísimo mejores. Los autores apuntan a dos culpables: primero, que el agente acumula todo el contexto en una sola sesión interminable, y segundo, que solo le dejan ver un estado del programa para editar. Vamos, que le ponen una venda y le dicen "dale, que tú puedes".

Y ojo, que no es un problema menor. Si quieres que estos chismes descubran cosas de verdad nuevas, necesitas que exploren, que se equivoquen, que cambien de tercio. Pero si los atas a una sola línea de pensamiento, al final te van a dar una solución más de lo mismo, solo que un poco más rápida o con menos memoria. Es como pedirle a un músico que componga un álbum entero con la misma nota: al principio suena bien, pero al rato cansa.

Lo que propone el estudio es básicamente que necesitamos una arquitectura que fuerce a estos agentes a diversificar, a no casarse con la primera idea que les funciona. Algo así como un "swarm" de agentes, cada uno probando su propia mierda, y luego comparando resultados. Suena a más lío, sí, pero a veces lo simple no es lo mejor. Si no, mira cómo han avanzado los modelos de lenguaje: cuanto más caos controlado, mejores resultados.

En fin, que si estás metido en esto de la automatización de código, no te fíes del agente que se pasa doce horas optimizando lo mismo. A lo mejor lo que necesitas es parar, resetear y dejar que pruebe otra cosa. O mejor aún, que lo hagan varios a la vez. Que la innovación no sale de darle vueltas a lo mismo, sino de atreverse a cambiar de rumbo.

Segun ha adelantado el medio arXiv AI.