Lleva 40 minutos pensando. No quiero interrumpirlo.

NEꓘOT · Desastres artificialmente inteligentes · Episodio 3

71 minutos de razonamiento. Cero líneas de código modificadas. El 100 % de mi cuota consumida. Y el botón de guardar sigue sin funcionar.

Antes de empezar, una aclaración: esto es humor, una historia ficticia y deliberadamente exagerada. Aunque, si trabajas habitualmente con agentes de IA, es posible que alguna situación te resulte sospechosamente familiar.

Hay una nueva forma de perder el tiempo en desarrollo de software que, curiosamente, consiste en ver cómo alguien piensa por ti. No hace falta escribir código, buscar en Stack Overflow ni discutir con una dependencia. Basta con abrir tu agente de IA, pedirle algo aparentemente sencillo y observar cómo empieza a analizar el universo conocido. Lo peor es que, mientras lo hace, tienes la sensación de estar siendo extraordinariamente productivo.

Todo empezó con un botón de guardar que no funcionaba. Una tontería, pensé. Le pedí al agente que echara un vistazo y me fui a por un café. Su primera respuesta fue impecable: iba a analizar el contexto antes de modificar nada. Me pareció una actitud responsable. Nada de lanzarse a cambiar archivos a lo loco, nada de arreglar una cosa y romper otras tres. Por fin una IA que se tomaba en serio la calidad del software.

A los cinco minutos estaba revisando la arquitectura, las dependencias y doce posibles causas. A los quince había descartado once hipótesis y estaba cuestionando la duodécima. Yo empezaba a sospechar que quizá el botón de guardar escondía un problema arquitectónico que llevaba años esperando a manifestarse. No podía ser que un agente dedicara tanto esfuerzo a una tontería. Algo importante tenía que estar encontrando.

A los cuarenta minutos seguía pensando.

Y ahí apareció un fenómeno que creo que merece su propio estudio psicológico: cuanto más tiempo lleva pensando un agente, menos te atreves a interrumpirlo. Si lo paras a los dos minutos, no pasa nada. Si lleva cuarenta, sientes que estás a punto de destruir una investigación científica. Así que esperas. Y justificas la espera. Y te convences de que toda esa actividad en pantalla tiene que traducirse, tarde o temprano, en una solución espectacular.

A los setenta minutos apareció por fin el mensaje que llevaba esperando toda la mañana: «Análisis completado».

Me incorporé en la silla. Pregunté si había arreglado el botón. Su respuesta fue que había identificado tres posibles causas y preparado un plan de intervención de veintisiete pasos. Todavía no había cambiado nada, pero ahora sabía exactamente qué debía investigar. Le pedí que empezara de una vez.

«Has alcanzado tu límite de uso».

Me quedé mirando la pantalla. Setenta y un minutos de análisis, ningún archivo modificado, ningún test ejecutado y el botón exactamente igual que antes. El agente había consumido todos los recursos disponibles para explicarme, con una serenidad admirable, que todavía no estaba preparado para tocar el código. Su última aportación fue recordarme que saber cuándo parar también forma parte de una buena ingeniería. En eso, al menos, parecía tener experiencia.

Lo divertido es que esta situación, aunque inventada y llevada al absurdo, tiene bastante de reconocible. Estamos empezando a confundir la cantidad de razonamiento con la calidad del trabajo. Un agente que analiza durante mucho tiempo puede parecer más riguroso que otro que resuelve el problema en treinta segundos, aunque el segundo haya entendido perfectamente la tarea y el primero lleve una hora dando vueltas a las mismas hipótesis.

Y aquí hay una cuestión que va más allá de los tokens o del coste de utilizar un modelo. En los sistemas de agentes, la eficiencia también es una decisión de arquitectura. Necesitamos establecer presupuestos de ejecución, límites de iteración, criterios para detener un análisis y mecanismos que permitan comprobar si realmente se está avanzando. No todo problema necesita una investigación exhaustiva, ni todo razonamiento adicional aporta valor.

También importa cómo definimos el éxito. Un agente no debería considerar completada una tarea porque haya producido un análisis brillante o un plan de veintisiete pasos. Si le pedimos que arregle un botón, el resultado esperado es que el botón funcione. El razonamiento es un medio, no el producto final.

La autonomía de los agentes tiene muchísimo potencial, pero delegar no debería significar renunciar al control del tiempo, del coste o del resultado. Tan importante como saber qué puede hacer un agente es saber cuánto esfuerzo merece una tarea y cuándo conviene cambiar de estrategia.

Mientras tanto, en el universo ficticio de NEꓘOT, el botón de guardar sigue roto, la cuota todavía no se ha restablecido y hay un plan de veintisiete pasos que nadie ha ejecutado.

Pero hay algo que tranquiliza a nuestro protagonista.

No se ha introducido ningún error nuevo.

NEꓘOT — Desastres artificialmente inteligentes. Una serie de humor tecnológico sobre situaciones inventadas que, a veces, se parecen demasiado a las reales.

71 minutos pensando. 0 líneas de código. 100 % del uso consumido.

El botón sigue roto. Pero ahora sabemos que no conviene precipitarse.