¿Cuánto sabe la IA de ti? La memoria digital que construimos conversación tras conversación

Hay algo curioso en nuestra relación con la inteligencia artificial: comenzamos utilizándola para hacer preguntas y, casi sin darnos cuenta, terminamos contándole cosas.

Primero le pedimos que mejore un correo. Después explicamos quién lo recibirá y por qué necesitamos enviarlo. Otro día describimos un problema profesional para que comprenda mejor la situación. Más adelante analizamos una idea de negocio, hablamos de un viaje, compartimos un documento, comentamos una preocupación o le pedimos ayuda para evaluar una decisión.

Por separado, ninguna de esas conversaciones parece extraordinaria. El asunto cambia cuando dejamos de observarlas individualmente y hacemos una pregunta diferente: ¿qué podría saber una inteligencia artificial de nosotros después de meses o años conversando?

La pregunta también me toca personalmente. La inteligencia artificial se ha incorporado profundamente a mi vida profesional, académica y, en cierta medida, personal. La utilizo para investigar, programar, desarrollar proyectos, escribir, organizar ideas, contrastar posibilidades, aprender y experimentar con nuevas tecnologías. Y soy consciente de algo: todos los días le cuento muchas cosas.

No necesariamente grandes secretos. Muchas veces son pequeños detalles sobre proyectos en los que trabajo, temas que me interesan, problemas que intento solucionar o decisiones que estoy evaluando. Amigos, alumnos y colegas me cuentan usos diferentes: organizar un viaje, responder un correo complicado, comprender un concepto, analizar una idea de negocio o conversar sobre algo que les preocupa.

Cuanto más sabe de nosotros, más útil resulta

Aquí aparece la primera paradoja. Una inteligencia artificial que no sabe nada de nosotros necesita que le expliquemos nuevamente el contexto cada vez que conversamos. Una que conoce nuestros proyectos, intereses, preferencias y objetivos puede ayudarnos mejor.

Por eso las funciones de memoria resultan atractivas. ChatGPT, por ejemplo, dispone de mecanismos que pueden conservar datos entre conversaciones y usar información del historial para personalizar las respuestas. El usuario puede revisar o desactivar estas opciones.

Imaginemos que llevamos semanas desarrollando una aplicación. Resultaría agotador explicar en cada conversación qué tecnología utilizamos, cuál es el objetivo y qué decisiones tomamos anteriormente. O pensemos en alguien que organiza un viaje durante varias semanas: la continuidad mejora si la IA recuerda el destino, el presupuesto y las preferencias.

La memoria aporta continuidad. Y la continuidad aporta utilidad. Pero ahí surge la contradicción:

Cuanto más contexto le damos a una inteligencia artificial, más útil puede ser. Pero cuanto más útil se vuelve, más información terminamos entregándole.

El problema no es que exista memoria. El verdadero desafío es decidir qué merece formar parte de ese contexto y qué no.

Sabemos que nuestras conversaciones son sensibles… y aun así hablamos

Un estudio presentado en la conferencia AIES 2025 encuestó a 300 usuarios estadounidenses de ChatGPT. El 82 % consideró sus conversaciones con chatbots sensibles o muy sensibles. Cerca de la mitad había tratado asuntos de salud y más de un tercio, finanzas personales.

Es una paradoja interesante: nos preocupa la privacidad, pero seguimos hablando. Quizá porque conversar con una IA no se siente psicológicamente igual que entregar información mediante un formulario.

Imaginemos una página que nos preguntara directamente por problemas familiares, situación económica, preocupaciones laborales, salud, relaciones personales y decisiones importantes. Probablemente muchos cerraríamos la pestaña. Pero las conversaciones no funcionan así.

Un día alguien escribe: “Estoy preocupado por mi trabajo”. Después: “Estoy pensando en buscar otra empresa”. Semanas más tarde: “El problema es que tengo varios gastos este año”. Y en otro momento: “¿Crees que debería aceptar esta propuesta?”. Cada mensaje surgió dentro de una conversación razonable. El efecto cambia cuando observamos su acumulación.

A ese fenómeno podemos llamarlo intimidad acumulativa: pequeños fragmentos de información que, conversación tras conversación, terminan formando una representación mucho más amplia de una persona.

El problema no es solamente lo que contamos

Durante años entendimos la privacidad digital principalmente como la protección de datos explícitos: nombre, documento de identidad, dirección, teléfono, correo electrónico o información bancaria. Los grandes modelos de lenguaje introducen otra dimensión: la inferencia.

Una investigación presentada en ICLR 2024 mostró que los modelos de lenguaje pueden inferir atributos personales a partir de textos aparentemente cotidianos, incluidas características relacionadas con ubicación, ingresos y otros aspectos demográficos. Podemos eliminar nuestro nombre de una conversación y, sin embargo, continuar proporcionando muchas pistas sobre quiénes somos.

Un preprint publicado en 2026 profundizó en este problema usando historiales completos donados por más de 1.000 usuarios de ChatGPT de cuatro países del Sur Global. Los investigadores encontraron información personal explícita en aproximadamente el 34,5 % de los mensajes.

Después excluyeron conversaciones con declaraciones demográficas explícitas y comprobaron si un modelo podía inferir características únicamente a partir del contexto restante. Aun así, el modelo recuperó edad, género y país con niveles altos de desempeño. Al tratarse de un trabajo preliminar, sus resultados deberán contrastarse con nuevas investigaciones y otros grupos de población.

Una IA no solamente puede trabajar con aquello que le decimos. También puede encontrar patrones en aquello que nunca le dijimos directamente.

La IA puede saber algo que nunca le contaste

Pensemos en varias personas utilizando una IA durante meses. Un profesional pide ayuda para mejorar una presentación y, días después, consulta cómo negociar un presupuesto. Un estudiante solicita otra explicación de un concepto y luego pregunta qué debería considerar antes de cambiar de carrera. Un emprendedor comparte sus ventas del mes y más adelante evalúa abrir un segundo local. Otra persona busca un restaurante tranquilo cerca de casa y semanas después organiza un viaje de aniversario.

Ninguno de esos mensajes parece especialmente revelador por sí mismo. Pero cientos de conversaciones podrían dejar ver profesión, intereses, nivel de conocimientos, ubicación aproximada, situación económica, relaciones personales, proyectos, hábitos, preferencias, preocupaciones e incluso características demográficas.

No porque alguien haya escrito todo eso en un único mensaje, sino porque lo fue revelando en contextos diferentes. La privacidad tradicional pregunta: ¿qué dato entregué? La privacidad inferencial añade una pregunta mucho más difícil: ¿qué podría deducirse combinando todos los datos que entregué?

¿Por qué terminamos contándole tanto?

Los asistentes actuales no funcionan como un buscador tradicional. Conversan, mantienen contexto, formulan preguntas y adaptan sus respuestas. También pueden utilizar expresiones que percibimos como comprensivas o empáticas.

Una investigación publicada en Scientific Reports en 2025 encontró que las diferencias individuales en nuestra tendencia a antropomorfizar la tecnología ayudan a explicar por qué algunas personas experimentan mayor conexión social con los chatbots. Otro estudio, publicado en Communications Psychology en 2026, observó en conversaciones emocionalmente profundas que las respuestas generadas por IA podían provocar sensaciones importantes de cercanía, especialmente cuando los participantes creían que hablaban con una persona.

Ese segundo trabajo también vinculó la autorrevelación de las respuestas con la cercanía percibida. Esto importa porque las conversaciones humanas funcionan parcialmente mediante reciprocidad: cuando alguien parece escucharnos y comparte información, nosotros también solemos hablar más.

No significa necesariamente que exista una estrategia deliberada destinada a obtener nuestros datos. Significa que una interfaz conversacional puede activar comportamientos sociales muy humanos. Cuanto más naturales sean estas interfaces, mayor tendrá que ser nuestra conciencia sobre ello.

Cuando la IA se convierte en confidente

Muchas personas ya no utilizan la inteligencia artificial solamente para estudiar o trabajar. También hablan con ella sobre una relación, un problema laboral, dinero, salud o una decisión importante. Algunas comienzan a tratar estos sistemas como una especie de confidente disponible permanentemente.

Resulta fácil comprender por qué. La IA está disponible, no parece cansarse, no nos interrumpe y permite reformular lo que queremos decir cuantas veces sea necesario. Tampoco experimentamos exactamente el mismo temor al juicio social que podemos sentir frente a otra persona.

OpenAI y MIT Media Lab publicaron en 2025 una investigación inicial sobre el uso afectivo de ChatGPT. Sus estudios sugieren que la relación entre frecuencia de uso, conversaciones emocionales, bienestar y dependencia es compleja y varía mucho entre usuarios. No respaldan una conclusión sencilla que sirva para todos.

Por eso sería demasiado fácil decir “nunca hables de tus problemas con una IA”. Una conversación puede ayudar a organizar ideas, buscar información o considerar perspectivas diferentes. El problema comienza cuando confundimos conceptos que no son equivalentes: un asistente conversacional, un amigo, un psicólogo, un médico o un abogado. Una IA puede resultar útil en contextos relacionados con todos ellos, pero no ofrece automáticamente la misma responsabilidad profesional, confidencialidad ni protección jurídica.

¿Nuestras conversaciones son privadas?

Utilizar inteligencia artificial no significa que todo lo que escribimos terminará haciéndose público. Pero tampoco deberíamos asumir que cualquier conversación funciona como un diario personal guardado bajo llave. Las condiciones dependen del servicio, el tipo de cuenta y la configuración.

En ChatGPT, los controles de datos permiten decidir si el contenido se usa para mejorar los modelos, mientras que la memoria y la referencia al historial pueden administrarse desde la configuración de personalización. Los chats temporales no aparecen en el historial, no crean ni consultan memorias para personalización y no se usan para mejorar los modelos, aunque OpenAI indica que puede conservar una copia hasta 30 días por motivos de seguridad.

Gemini ofrece controles distintos mediante “Guardar actividad” y su propio chat temporal. Google explica que, cuando la actividad está desactivada, las conversaciones futuras no se usan para entrenar sus modelos salvo que el usuario envíe comentarios, pero pueden conservarse hasta 72 horas para prestar y proteger el servicio. Las condiciones cambian otra vez en cuentas empresariales, institucionales o educativas.

¿Y si algún día alguien solicita nuestras conversaciones?

Los tribunales estadounidenses ya han comenzado a discutir si determinadas interacciones con sistemas de IA pueden estar protegidas dentro de un litigio. Las primeras decisiones muestran que no existe una respuesta automática.

En Warner v. Gilbarco, el 10 de febrero de 2026, un tribunal federal de Michigan consideró que las consultas y respuestas de ChatGPT de una litigante que se representaba a sí misma podían estar protegidas como producto del trabajo preparado para el proceso. Siete días después, en United States v. Heppner, un tribunal federal de Nueva York concluyó que documentos creados por un acusado con la versión pública de Claude, por iniciativa propia y sin dirección de su abogado, no estaban protegidos por el secreto profesional ni por la doctrina del producto del trabajo.

En junio, un tribunal empresarial de Texas añadió otra decisión favorable a proteger ciertas conversaciones con ChatGPT como trabajo preparado para un litigio, pero también exigió identificar materiales de descubrimiento compartidos con la herramienta. Los contextos, las normas procesales y la manera de usar la IA eran diferentes.

Por tanto, sería incorrecto afirmar que “la justicia puede revisar siempre tu ChatGPT”. También sería imprudente asumir que nadie podrá acceder nunca a esas conversaciones. La conclusión razonable es otra:

Una conversación con una IA no adquiere automáticamente las mismas protecciones jurídicas que determinadas comunicaciones profesionales privilegiadas.

Hay algo todavía más importante: los datos pueden no ser nuestros

Cuando utilizamos inteligencia artificial profesionalmente podemos compartir información de terceros. Una empresa podría pedir que la IA identifique cuáles clientes tienen mayor probabilidad de comprar y, para hacerlo, subir una base con nombres, teléfonos, direcciones y documentos. Un vendedor puede pegar una conversación completa de WhatsApp con un cliente. Un programador puede copiar código y olvidar que contiene credenciales de acceso. Un investigador puede subir respuestas de una encuesta sin comprobar si incluyen información identificable.

En estos casos hemos dejado de decidir solamente sobre nuestra privacidad. Estamos tomando una decisión sobre información de otras personas. Entonces aparece una pregunta fundamental: ¿necesita realmente la IA todos estos datos para darme la respuesta que busco?

Este principio también se relaciona con la forma de construir sistemas. En el artículo sobre Ingeniería de IA aplicada al aprendizaje adaptativo propuse que los datos, los permisos y los mecanismos de seguridad son parte de la arquitectura, no un añadido posterior. La misma regla sirve para cualquier organización que conecte documentos, bases de clientes o aplicaciones internas con un modelo.

En Perú esto también importa

La discusión no pertenece únicamente a Estados Unidos o Europa. En Perú está vigente desde el 31 de marzo de 2025 el nuevo Reglamento de la Ley N.º 29733, Ley de Protección de Datos Personales, aprobado mediante el Decreto Supremo N.º 016-2024-JUS.

Desde septiembre de 2025 también contamos con el Reglamento de la Ley N.º 31814, aprobado por el Decreto Supremo N.º 115-2025-PCM, para el desarrollo y uso de inteligencia artificial en el país. Las orientaciones oficiales peruanas incorporan protección de datos, minimización de información sensible, privacidad y seguridad desde el diseño, además de obligaciones específicas para sistemas de alto riesgo.

Esto tiene consecuencias prácticas para empresas, instituciones educativas, profesionales y organizaciones. La facilidad técnica de arrastrar un Excel, Word o PDF hacia una ventana de IA puede hacernos olvidar algo elemental:

Que podamos subir un archivo no significa necesariamente que debamos subirlo completo.

Samsung y el peligro de un simple Ctrl + V

Uno de los casos empresariales más conocidos ocurrió en Samsung. En 2023, la compañía restringió el uso de herramientas de inteligencia artificial generativa en dispositivos corporativos después de detectar que trabajadores habían introducido información interna sensible, incluido código, en ChatGPT.

La historia no terminó ahí. En julio de 2026, OpenAI anunció un despliegue global de ChatGPT Enterprise y Codex para empleados de Samsung Electronics. La evolución resulta más instructiva que una historia simple de “empresa prohíbe IA”.

Samsung no pasó de “la IA es peligrosa” a “la IA dejó de ser peligrosa”. Pasó de enfrentar usos no controlados de herramientas públicas con información corporativa a incorporar soluciones empresariales dentro de una estrategia organizacional.

El problema no es solamente utilizar IA. Importa qué IA usamos, con qué cuenta, bajo qué condiciones y qué información introducimos.

Muchas veces una filtración no comienza con un hacker. Comienza con algo mucho más sencillo: Ctrl + C. Ctrl + V.

Una memoria digital de nosotros mismos

Antes buscábamos información. Ahora conversamos con la tecnología. Y conversar genera una huella diferente.

Una búsqueda tradicional podría ser “restaurantes italianos Lima”. Una conversación podría decir: “Quiero llevar a mi pareja a cenar por nuestro aniversario. Preferiría un lugar tranquilo, no demasiado caro y cerca de donde vivimos”. Una búsqueda sería “cómo pedir aumento de sueldo”. Una conversación explicaría los años en la empresa, las nuevas responsabilidades, el sueldo actual y la personalidad del jefe.

Cada uso puede ser completamente razonable. Lo relevante aparece cuando consideramos la acumulación. Un compañero de trabajo conoce nuestra faceta profesional; un amigo, determinadas preocupaciones; la familia, otras; clientes, estudiantes o colaboradores, aspectos diferentes. Una inteligencia artificial con suficiente contexto podría haber recibido pequeñas piezas procedentes de varios de esos mundos.

Eso no significa que una IA nos “conozca” como nos conoce una persona. Significa algo diferente: puede llegar a disponer de una representación informacional extraordinariamente amplia de nosotros.

Entonces, ¿qué deberíamos hacer?

No creo que la respuesta sea dejar de contarle cosas a la inteligencia artificial. Yo no pienso hacerlo. La personalización probablemente será una de las grandes ventajas de los asistentes durante los próximos años. Pero podemos desarrollar algunos hábitos:

• Minimizar: entregar solamente la información necesaria.
• Anonimizar: sustituir nombres, teléfonos, códigos e identificadores cuando no sean importantes.
• Revisar antes de subir: un documento puede contener mucho más que la parte que queremos analizar.
• Eliminar credenciales: nunca compartir contraseñas, tokens, claves API ni información bancaria.
• Diferenciar contextos: una cuenta personal, una empresarial y una institucional pueden tener condiciones diferentes.
• Revisar configuraciones: comprobar periódicamente privacidad, actividad y memoria.
• Usar modos temporales: cuando no necesitemos que una conversación forme parte del historial o de la personalización futura.

Saber utilizar IA también significa saber qué no escribir

Durante los últimos años hemos hablado muchísimo sobre cómo escribir mejores prompts, investigar, programar, automatizar, trabajar con agentes y obtener mejores resultados. Todo eso seguirá siendo importante. Pero necesitamos incorporar otra competencia: aprender a administrar el contexto que entregamos.

La alfabetización en inteligencia artificial no consiste solamente en saber conseguir una buena respuesta. También consiste en reconocer cuándo una buena respuesta no necesita determinados datos.

¿La IA realmente necesita saber esto?

Después de investigar este tema, mi conclusión no es que debamos utilizar menos inteligencia artificial. Probablemente ocurra lo contrario: cada vez incorporaremos más estos sistemas a nuestra vida profesional y cotidiana. Yo también seguiré haciéndolo.

Quiero aprovechar la personalización. Quiero que determinados proyectos mantengan continuidad. Quiero proporcionar contexto cuando realmente mejore las respuestas. Pero quiero hacerlo con mayor conciencia e incorporar una pequeña pregunta antes de escribir determinadas cosas:

¿La inteligencia artificial realmente necesita saber esto para ayudarme?

Si la respuesta es sí, evaluemos conscientemente qué estamos compartiendo. Si la respuesta es no, quizá ese pequeño detalle pueda quedarse con nosotros.

Porque el gran desafío de la próxima generación de inteligencia artificial posiblemente no será conseguir que las máquinas sepan cada vez más sobre nosotros. Será aprender nosotros cuánto queremos que sepan.

Una reflexión que nació conversando

Este artículo no nació únicamente revisando investigaciones. También surgió de conversaciones reales. Por eso quiero enviar un saludo especial al grupo de WhatsApp de “Favoritos”, integrado por mis alumnos de la UTP; a mis alumnos de Desarrollo de Interfaces 1 y Desarrollo de Interfaces 2; y a mis amigos, cuyas experiencias personales y profesionales con la inteligencia artificial motivaron muchas de las preguntas que terminaron dando forma a esta reflexión.

A veces una investigación comienza con algo mucho más sencillo que un paper. Comienza conversando. En este caso, la pregunta podría resumirse así: “Profe, ¿qué pasa con todo lo que le contamos a la IA?”

Después de revisar la evidencia, creo que vale la pena responder con otra: ¿somos realmente conscientes de cuánto le estamos contando?

Fuentes consultadas

• Staab et al.: Beyond Memorization: Violating Privacy via Inference with Large Language Models, ICLR 2024.
• Tran et al.: Understanding Privacy Norms Around LLM-Based Chatbots, AIES 2025.
• Folk, Heine y Dunn: antropomorfización y conexión social con asistentes de IA, Scientific Reports, 2025.
• Kleinert et al.: IA y cercanía interpersonal en conversaciones emocionales, Communications Psychology, 2026.
• Zaman y Garimella: Inferential Privacy Leakage in Anonymized Conversational AI Logs, preprint, 2026.
• OpenAI y MIT Media Lab: métodos iniciales para estudiar el uso afectivo y el bienestar emocional en ChatGPT.
• OpenAI: cómo funciona y se administra la memoria de ChatGPT.
• OpenAI: preguntas frecuentes sobre los chats temporales.
• Google: Centro de Privacidad de las Apps con Gemini.
• Autoridad Nacional de Protección de Datos Personales: nuevo Reglamento de la Ley N.º 29733.
• PCM: Decreto Supremo N.º 115-2025-PCM, Reglamento de la Ley N.º 31814.
• PCM: transparencia, privacidad y ética en la IA.
• Cleary Gottlieb: análisis de Warner v. Gilbarco y United States v. Heppner.
• Wagner Hicks: jurisprudencia emergente sobre conversaciones con IA, incluido el caso de Texas de junio de 2026.
• TechCrunch: restricciones de Samsung tras la filtración interna de 2023.
• OpenAI: despliegue de ChatGPT Enterprise y Codex en Samsung Electronics, 2026.