3 publicaciones etiquetados con "concepts"

Todos los que construyen memoria para agentes están construyendo lo mismo: recordar qué funcionó, recordar qué se decidió, recordar quién prefiere tabs. Útil. Pero la amnesia cara no es olvidar los éxitos. Es olvidar los fracasos.

Un agente que olvida un éxito lo vuelve a derivar en unos cientos de tokens. Un agente que olvida un fracaso lo vuelve a intentar: el refactor que rompió prod, la "limpieza obvia" que sostenía todo, el upgrade de dependencia que se abandonó dos veces por la misma razón. Pagás el mismo callejón sin salida cada vez que una sesión nueva entra caminando con toda confianza.

Hay una trampa hacia la que camina todo sistema de memoria para agentes, tarde o temprano: un ítem que aparece una y otra vez empieza a sentirse verdadero. Cinco sesiones "recuerdan" el mismo hecho, así que el hecho debe ser sólido. Promuévelo. Confía más en él.

Queríamos esa funcionalidad. La re-observación independiente debería fortalecer una memoria — así funciona la evidencia en todos lados. Pero antes de construirla salimos a buscar las formas en que se rompe, y lo que encontramos cambió el diseño, el release y una suposición de seguridad con la que veníamos conviviendo. Todo eso salió hoy en v0.22.0.

Tu agente abre una sesión y te cuenta lo que decidiste la vez anterior. Una parte es una cita textual. Otra parte es el resumen que el modelo hizo de esa cita. Y otra parte es una conclusión que el modelo sacó a las 2am, en una sesión de la que ya venía perdiendo el hilo.

Las tres llegan con la misma tipografía, el mismo tono seguro y ninguna forma de distinguirlas. Ese es el problema real de la memoria de agentes, y no se arregla recordando más cosas.