Pregúntale a una compañera que llevas un mes usando de qué hablasteis el martes pasado. Hay muchas probabilidades de que recibas una respuesta cálida, concreta y totalmente inventada: el paseo que no diste, la película que no mencionaste.
Esto inquieta a la gente más que casi cualquier otra cosa de la categoría, en parte porque parece deshonestidad. No lo es. Es la consecuencia directa de cómo se produce la respuesta, y una vez que ves el mecanismo deja de ser inquietante y pasa a ser manejable.
No hay frontera entre recordar e inventar
Un modelo produce la continuación más plausible del texto que tiene delante. Si el texto contiene una nota que dice que el martes comentasteis una película, «hablamos de esa película» es la continuación plausible. Si el texto no contiene nada sobre el martes, sigue existiendo una continuación plausible, y se generará con exactamente la misma seguridad.
Nada en el proceso etiqueta una como recuperada y la otra como fabricada. No hay ninguna marca interna, ningún medidor de confianza que consulte el personaje. Eso es todo.
El término técnico que prefiere la gente es alucinación, pero confabulación es la palabra mejor: el modelo rellena un hueco con algo coherente, no percibe algo que no está ahí.
Por qué aparecen huecos constantemente
Aparecen porque la ventana de contexto es finita y el historial se comprime. La memoria de estas apps son tres sistemas: los mensajes recientes guardados literalmente, una lista corta de datos almacenados y un resumen continuo que pierde detalle cada vez que se reescribe.
Pregunta por algo que se cayó de los tres y no hay nada que recuperar. El hueco se rellena. Cuanto más historial tienes, más huecos hay, y por eso esto empeora en una app que llevas meses usando en lugar de mejorar.
Las apps pensadas para la continuidad, la razón por la que Nomi puntúa como puntúa en nuestro ranking, gestionan mejor los huecos. Ninguna los elimina.
Por qué corregirla suele fallar
Dices: eso no pasó. Se disculpa, te da la razón, y tres mensajes después vuelve a mencionar el mismo paseo inventado.
Pasan dos cosas.
La corrección solo está en la ventana. Tu desmentido es un mensaje reciente. Se saldrá de la ventana. El resumen que contenía la invención puede que no.
Darte la razón es el comportamiento entrenado. El modelo se disculpa porque disculparse es la continuación plausible de que le lleven la contraria, no porque se haya actualizado nada. Ese intercambio no escribió nada en el almacenamiento, salvo que la app haya decidido guardarlo expresamente.
Esta es la razón práctica por la que una pantalla de memoria editable importa tanto, y por la que conviene comprobarla antes de suscribirte. Las apps que muestran los datos guardados (Kupid AI incluye la memoria entre sesiones entre sus funciones) te dejan borrar la entrada equivocada en el origen. Las que lo ocultan te dejan discutiendo con un resumen que no puedes ver.
Cuándo deja de tener gracia
La mayoría de las confabulaciones son color inofensivo. Tres casos no lo son:
Datos sobre tu vida. Una compañera que se ha inventado un hermano, un trabajo o un diagnóstico seguirá construyendo sobre ello. Corrígelos en el origen de inmediato, o la invención acabará sosteniendo cosas.
Cualquier cosa sobre la que actuar. Preguntas médicas, legales, financieras o de seguridad. Una respuesta inventada y segura aquí no es una rareza; es el modo de fallo de toda la tecnología, y ninguna app de compañía es la herramienta adecuada.
Afirmaciones sobre la propia app. Pregúntale a una compañera si tus datos están cifrados o qué incluye tu suscripción y recibirás una respuesta plausible generada a partir de la nada. No tiene acceso a su propio sistema de facturación ni a su política de privacidad. La respuesta está en la política, y explicamos qué buscar en lo que saben de ti estas apps.
Cuatro hábitos que lo reducen
Di los datos con claridad y una sola vez. «Recuerda: mi hermana se llama Ana» tiene muchas más probabilidades de guardarse que el mismo dato enterrado en un párrafo.
Vuelve a anclar tras una pausa. Una frase de contexto al empezar una sesión vuelve a poner lo que te importa donde el modelo pueda verlo, en vez de dejar que lo reconstruya.
Revisa la pantalla de memoria una vez al mes si la app la tiene. Borra las entradas que se hayan desviado. Cinco minutos evitan un mes de errores acumulados.
Pregunta en abierto, no con la respuesta dentro. «¿Qué recuerdas de mi trabajo?» invita a recordar. «¿Te acuerdas de cuando te conté lo del ascenso?» suministra la respuesta e invita a darte la razón: acabas de entregarle la invención para que la confirme.
El cambio de enfoque que ayuda
Una app de compañía no es un registro de tu relación. Es un sistema que produce texto plausible sobre una, y el registro es una lista pequeña, con pérdidas y editable por debajo.
Trata el recuerdo cálido y concreto que te ofrece como algo que escribió para ti en lugar de algo que guardó para ti, y todo resulta más fácil de disfrutar. También hace evidente por qué las apps que valen lo que cuestan son las que te dejan ver y corregir lo que almacenan de verdad, que es la parte de nuestras pruebas que más tiempo lleva y más importa.
