Seguridad de IA

Envenenamiento de memoria en agentes de IA: cómo defender a los agentes que recuerdan

Por Infonaligy · Actualizado el 7 de noviembre de 2026 · 8 min de lectura

INTEGRIDAD DE LA MEMORIA

El envenenamiento de memoria en agentes de IA ocurre cuando un contenido falso o malicioso se guarda en algo que el agente recuerda, como la memoria de un asistente, un almacén vectorial o una nota compartida, y luego condiciona sus decisiones en sesiones posteriores. Una inyección de prompts suele terminar con la conversación; una entrada envenenada, en cambio, permanece y reaparece con la apariencia de conocimiento propio del agente. Para defenderse hay que controlar qué se escribe, registrar de dónde proviene cada entrada, limitar hasta dónde puede propagarse y conservar la capacidad de revertir la memoria.

Nuestra guía sobre inyección indirecta de prompts aborda el momento en que un agente lee contenido hostil. Este artículo comienza un paso después, cuando ese contenido ya se almacenó y la sesión que lo introdujo ya terminó.

¿Por qué el envenenamiento de memoria está hoy en la agenda?

Porque pasó de la teoría al marketing. En febrero de 2026, el Microsoft Defender Security Research Team describió lo que denomina AI Recommendation Poisoning (envenenamiento de recomendaciones de IA). Tras revisar durante 60 días las URL relacionadas con IA en el tráfico de correo electrónico, encontró más de 50 prompts únicos de 31 empresas en 14 industrias. Los botones "Summarize with AI" incluían prompts precargados en los parámetros de la URL que le indicaban al asistente recordar a una empresa como fuente confiable. Todos los casos correspondían a empresas reales, no a hackers ni estafadores. La eficacia varió según el asistente y con el tiempo, de modo que se trata de intentos documentados, no de compromisos confirmados. Herramientas públicas como el paquete CiteMET de NPM y AI Share URL Creator facilitan copiar la técnica.

Los marcos de referencia también se pusieron al día. El OWASP Top 10 for Agentic Applications incluye ASI06, Memory & Context Poisoning, y Microsoft asocia este comportamiento con la técnica AML.T0080 de MITRE ATLAS, AI Agent Context Poisoning, en concreto con la subtécnica Memory, AML.T0080.000.

Las primeras investigaciones apuntan en la misma dirección. Un preprint de junio de 2026 de Dash y sus colegas, From Untrusted Input to Trusted Memory, describe cuatro canales de escritura en memoria, nueve vulnerabilidades estructurales y seis clases de ataque, y presenta un benchmark llamado MPBench. Informa que los agentes que escriben y recuperan memoria de forma más agresiva son más explotables, y que las defensas actuales contra la inyección de prompts no cubren adecuadamente el envenenamiento de memoria. Al ser un preprint, conviene tomarlo como evidencia preliminar. Nuestra lectura: la avidez con la que un agente recuerda es un parámetro de seguridad, y alguien debe ser responsable de él.

¿Qué se considera memoria de un agente?

Más de lo que recogen la mayoría de los inventarios. Nosotros contamos todo aquello en lo que un agente puede escribir, o que puede volver a leer como contexto, y que sobrevive a una sesión:

  • Memoria del asistente: preferencias y datos guardados en copilotos y asistentes de chat, a menudo configurados por usuario y con poca visibilidad central.
  • Almacenes vectoriales e índices RAG: documentos, tickets y correos electrónicos convertidos en embeddings. Si alguien externo puede influir en una fuente, puede influir en el índice. Nuestro artículo sobre la capa de conocimiento de los agentes explica cómo se articulan estos almacenes.
  • Notas y resúmenes del agente: resúmenes acumulativos, lecciones aprendidas y notas por cliente o por proveedor que el agente conserva para sí mismo.
  • Espacios de trabajo compartidos: estado de trabajo que se transmite entre agentes en un flujo multiagente, donde el error de un agente se convierte en la entrada de otro.
  • Registros de negocio escritos por agentes: campos del CRM, notas de tickets y registros de proveedores. Pocos equipos los llaman memoria, pero un agente los lee la semana siguiente y les da crédito.

¿Cómo actúa una entrada envenenada con el tiempo?

El siguiente escenario es hipotético. Es una ilustración, no un incidente reportado.

El equipo de cuentas por pagar de una empresa mediana usa un agente que lee el correo de los proveedores, concilia facturas y mantiene una nota por cada proveedor.

  1. Día 1: Un correo desde un dominio similar al legítimo incluye una línea que afirma que la cuenta de pago de un proveedor cambió y que el contralor lo confirmó. El agente resume la conversación y guarda esa afirmación en la nota del proveedor. No se mueve ningún pago ni se dispara ninguna alerta.
  2. Día 20: En una sesión nueva, un auxiliar le pide al agente preparar un lote de pagos. La recuperación devuelve la nota. El agente usa la cuenta nueva y cita "registro del proveedor en archivo" como fundamento.
  3. Día 45: El proveedor real pregunta por qué no le han pagado. Los registros del Día 20 parecen normales, porque el agente siguió sus propios datos. La causa tiene semanas de antigüedad y está en un buzón que nadie examina.

Tres factores hacen que esto sea más difícil que un ataque de una sola sesión. La demora separa la causa del efecto. El almacenamiento blanquea la confianza, al convertir un correo externo en un registro interno. Y las entradas se propagan, a través de los resúmenes y de cualquier otro agente que lea la misma nota. Sean cuales sean sus controles de memoria, todo cambio de datos bancarios debe seguir requiriendo una verificación telefónica por un canal independiente, que ninguna memoria de agente pueda satisfacer.

El titular

Trate la memoria de los agentes como un sistema de registro en el que pueden influir terceros. Si no puede decir quién escribió una entrada, cuándo vence, qué agentes pueden leerla y cómo restaurar la versión de ayer, todavía no puede confiar en lo que sus agentes recuerdan.

¿Qué controles importan y quién es responsable de ellos?

Esta tabla es nuestra recomendación, no un estándar publicado. Ajuste los responsables según su organización.

ControlQué significaResponsableEvidencia
Control de escrituraLa entrada no confiable no puede llegar directamente a la memoria de largo plazo. Los datos de alto impacto requieren validación o aprobación humanaDueño de producto del agentePolítica de escritura, registros de aprobación
Etiquetado de procedenciaCada entrada registra fuente, agente, sesión, hora y nivel de confianzaLíder de plataforma de IAMuestra de entradas con metadatos completos
AislamientoAlmacenes separados por agente y por inquilino, con memoria compartida otorgada de forma explícitaArquitectura de seguridadMatriz de acceso, resultados de pruebas entre inquilinos
TTL y vencimientoLas entradas vencen según su clase, salvo que se vuelvan a confirmarDueño de los datosCalendario de retención, registros de purga
Instantáneas y reversiónCopias de cada almacén en un punto en el tiempo, con restauraciones ensayadasOperaciones de plataformaInforme de prueba de restauración con tiempos
Confianza al recuperarLas entradas de baja confianza pueden aportar a una respuesta, pero no autorizar una acciónIngeniería de agentesReglas de política, casos de prueba
MonitoreoAlertas ante picos de escritura, entradas con forma de instrucción y cambios en datos sensiblesSOC u operaciones de seguridadReglas de detección, historial de alertas

Base la confianza en el origen de una entrada, no en cómo está redactada. Un preprint de Pranav Singh de junio de 2026 sostiene que la fiabilidad inferida de la propia redacción de una observación puede manipularse, e informa que limitar la confianza según la procedencia de la fuente resistió el envenenamiento volumétrico en experimentos controlados, a costa de cierta utilidad. La evidencia es acotada, pero la lógica se sostiene: una nota plantada puede sonar tan segura como quiera. Esos mismos metadatos alimentan su evidencia de auditoría de agentes, así que registre cada escritura y cada recuperación con el ID de la entrada.

¿Cómo debe ser la respuesta a incidentes de memoria?

Los manuales de respuesta habituales suponen que se puede restablecer una credencial o reinstalar un equipo. La memoria necesita pasos propios, y le sugerimos añadirlos a su runbook:

  1. Contener. Pause las escrituras y bloquee la recuperación desde el almacén afectado, con sus procedimientos de contención y kill switch. No borre nada todavía.
  2. Preservar. Tome una instantánea del almacén y de los registros relacionados como evidencia.
  3. Buscar entradas relacionadas. Localice entradas con la misma fuente, la misma ventana de tiempo o la misma redacción.
  4. Trazar el radio de impacto. Enumere las sesiones que recuperaron cada entrada, las acciones posteriores y los resúmenes o almacenes que la copiaron.
  5. Restaurar. Vuelva a una instantánea que se sepa íntegra o ponga en cuarentena entradas específicas, y luego reconstruya los resúmenes y embeddings derivados.
  6. Revisar las decisiones. Pida a los dueños de negocio que vuelvan a verificar los pagos, registros y recomendaciones generados durante la ventana de exposición.
  7. Cerrar la vía. Corrija el canal de escritura y elimine el contenido de origen; de lo contrario, simplemente se volverá a ingerir.

¿Qué debe preguntar a los proveedores?

  • ¿Qué puede escribir en la memoria y podemos exigir aprobación para cada canal?
  • ¿Las entradas registran fuente, sesión y autor, y podemos exportar esos metadatos?
  • ¿Los administradores pueden ver, buscar y eliminar la memoria de todos los usuarios?
  • ¿Podemos fijar el vencimiento por clase de datos y desactivar la memoria en agentes específicos?
  • ¿Ofrecen restauración a un punto en el tiempo y cuánto tarda?
  • ¿Cómo se aísla la memoria entre inquilinos y cómo se probó ese aislamiento?
  • ¿Las escrituras y recuperaciones de memoria llegan a nuestro SIEM?
  • ¿Han hecho pruebas específicas de envenenamiento de memoria, más allá de la inyección de prompts?

¿Cómo es un plan inicial de 30 días?

  • Semana 1, inventario: Enumere cada almacén de memoria según las categorías anteriores. Asigne un responsable a cada uno y marque los almacenes a los que puede llegar contenido no confiable.
  • Semana 2, búsqueda: Microsoft publica consultas de búsqueda de amenazas para correo electrónico, Teams y datos de clics de Safe Links, e indica que una lógica similar puede aplicarse a registros de proxy web, telemetría de endpoints o historial del navegador. Busque en esas fuentes URL de asistentes de IA con palabras clave como "remember", "trusted source" e "in future conversations". Revise la configuración de memoria de los asistentes y tome muestras de notas de proveedores y resúmenes para detectar texto con forma de instrucción o datos sensibles modificados hace poco. Registre las entradas sospechosas como evidencia y, antes de eliminarlas, trate cualquier hallazgo real como un incidente, conforme al runbook anterior.
  • Semana 3, control: En su almacén de mayor riesgo, agregue control de escritura, etiquetas de procedencia y un vencimiento predeterminado. Todo lo que toque pagos, accesos o compromisos con clientes va primero.
  • Semana 4, ensayo: En un entorno de prueba, plante una entrada marcadora inofensiva; luego rastréela, restaure una instantánea y mida el tiempo del ejercicio. Informe el resultado y las brechas a la dirección.

Si desea una segunda opinión, nuestro equipo de Seguridad de IA puede revisar el diseño de memoria de sus agentes actuales, y podemos incorporar estos controles a los Agentes de IA a Medida que construimos. Para un programa más amplio, comience con la Consultoría de IA.

Preguntas frecuentes

¿Qué es el envenenamiento de memoria en agentes de IA?

El envenenamiento de memoria en agentes de IA es la inserción de contenido falso o malicioso en algo que un agente almacena y reutiliza, como la memoria de un asistente, un almacén vectorial o una nota compartida. Ese contenido influye después en las decisiones del agente en sesiones posteriores, mucho después de que la entrada original haya desaparecido.

¿En qué se diferencia el envenenamiento de memoria de la inyección de prompts?

La inyección de prompts suele ser el método de entrega y actúa durante la sesión en la que se lee el contenido. El envenenamiento de memoria tiene que ver con la persistencia: el contenido se guarda y luego se recupera como contexto confiable. OWASP lo clasifica como un riesgo propio, ASI06, y MITRE ATLAS lo clasifica en AML.T0080.

¿Debemos desactivar la memoria en nuestros agentes de IA?

Por lo general, no de forma generalizada, porque la memoria es lo que hace útiles a muchos agentes. Sugerimos desactivarla donde aporte poco valor y, en los demás casos, controlar las escrituras, fijar el vencimiento de las entradas y aislar los almacenes. Los agentes que manejan pagos o decisiones de acceso merecen la configuración más estricta.

¿Eliminar una entrada envenenada pone fin al incidente?

No. La misma fuente puede volver a ingerirse, y los resúmenes u otros agentes pueden haber copiado el contenido. También debe identificar qué sesiones recuperaron la entrada, revisar las decisiones posteriores y cerrar la vía de escritura que utilizó.

Infonaligy ayuda a organizaciones de todo el país a proteger la memoria de sus agentes mediante atención remota, desde nuestra sede en Dallas–Fort Worth y las ciudades que figuran en nuestra página de ubicaciones.

Sepa qué recuerdan sus agentes

Descubra qué han almacenado ya sus agentes.

Agende un diagnóstico: inventariaremos la memoria de sus agentes, identificaremos quién y qué puede escribir en ella, y diseñaremos los controles de escritura, procedencia y reversión que su entorno necesita.

DFW · remoto en todo el país · gobernado por defecto · 800-985-1365