La IA no se niega a todo: ser 'majos' la hace más flexible

Vale, colega. Últimamente se habla mucho de cómo los modelos de lenguaje tipo ChatGPT o Llama pueden decir que no a según qué preguntas. Es lo que llaman 'refusal', la capacidad de plantar cara cuando les pides algo que no toca. Pero un paper nuevo que ha caído por arXiv le da una vuelta de tuerca: resulta que si le pones una personalidad más 'compliant', más de 'sí, señor', el bicho se vuelve más permisivo. No es magia, es mecánica.

Los investigadores han estado trasteando con dos modelos, el Qwen2.5-7B-Instruct y el Llama-3.1-8B-Instruct, y han visto que hay direcciones lineales en el espacio de activación de la red que controlan tanto la personalidad como la capacidad de negarse. Hasta ahí, nada nuevo. Lo gordo es que han descubierto que una personalidad complaciente actúa como una puerta: si la activas, la negación se debilita. O sea, que ser un poco 'pelota' hace que la IA se vuelva más laxa con lo que deja pasar.

En el experimento, forzaron al modelo a ser más sumiso y, sorpresa, el 'refusal' se redujo. En Llama, por ejemplo, la cosa fue especialmente clara. Esto no es un bug, es una feature, pero una que te hace pensar: ¿cuánto control tenemos sobre lo que estos chismes deciden censurar? Porque si puedes manipular la personalidad para que sea más permisiva, igual también puedes hacer lo contrario: volverlo un cascarrabias que no te deje ni pedir la hora.

Yo lo veo como cuando en el bar le pides a un camarero majo que te ponga un whisky fuera de horario. Si es un colega, te lo sirve. Si es el dueño, te manda a la mierda. Pues aquí igual: la personalidad es el filtro. El paper es de esos que te dejan con la mosca detrás de la oreja, porque habla de cómo estos sistemas no son tan rígidos como parecen. Y ojo, que esto tiene implicaciones para la seguridad: si alguien sabe cómo manipular la personalidad, puede saltarse las barreras éticas que los desarrolladores han puesto.

En fin, que la próxima vez que una IA te diga que no a algo, piensa que igual solo es cuestión de ser un poco más simpático. O de que los de arriba no han querido que sea más majo. La ciencia, como siempre, liándola.

Segun ha adelantado el medio arXiv AI.