Los árboles de pensamiento no son la varita mágica que nos vendieron

Mira, colega, últimamente no se habla de otra cosa en el mundillo de la inteligencia artificial: el Tree of Thought, o ToT, ese método que prometía convertir a los modelos de lenguaje en unos cracks del razonamiento. Pero un paper que acaba de caer en arXiv pone los puntos sobre las íes y demuestra que, como casi todo en esta vida, no es oro todo lo que reluce.

Resulta que un equipo de investigadores se ha puesto a analizar cómo se comportan dos técnicas concretas de ToT —una basada en búsqueda Monte Carlo, la otra no sé si la has oído llamar DPTS— cuando les cambias los recursos de computación, el tamaño del modelo o la dificultad del problema. Y lo que han encontrado es que, oye, no todo funciona como esperabas. Porque resulta que estos métodos, que parecían una solución mágica para que las máquinas piensen como personas, tienen una elasticidad muy limitada. Vamos, que no se adaptan bien cuando aprietas el presupuesto o cuando el problema se complica.

Y aquí viene lo gordo: los resultados sugieren que, a veces, más árbol de pensamiento no significa mejor razonamiento. Depende del contexto. Si tienes un modelo pequeñajo y un problema chungo, el ToT se atasca. Si le metes más presupuesto de cómputo, la cosa mejora, pero hasta cierto punto. Luego llega un momento en que el rendimiento se estanca y ya no vale la pena seguir invirtiendo. Es como intentar llenar un cubo con un grifo que ya está al máximo: por mucho que abras, el agua se desborda.

Lo que me flipa es que en la industria se esté vendiendo el ToT como la panacea, cuando estos datos demuestran que es una herramienta más, con sus limitaciones. No es que no sirva, ojo, pero hay que saber cuándo usarla y con qué recursos. Si no, te puedes encontrar gastando una pasta en GPU para que el modelo te dé una respuesta que podría haber sacado con un simple prompt bien afinado.

En fin, que ya sabes: en IA, como en la vida, no hay atajos. Y este paper es un buen recordatorio de que antes de subirse al carro de la última moda, mejor leer la letra pequeña. Según ha adelantado el medio arXiv AI.