Cuando usted activa una función de IA, rara vez confía en una sola empresa. El proveedor de la aplicación suele enviar sus instrucciones (prompts) a un proveedor de inferencia, y ese proveedor opera sobre sus propios servidores en la nube. La brecha de Fireworks AI, que alcanzó transcripciones de chats de Notion AI, muestra cómo un incidente de seguridad a dos o tres eslabones de distancia puede exponer datos que usted compartió con un proveedor de confianza. La solución no es dejar de usar la IA. Es mapear la cadena, reforzar los contratos, minimizar lo que se envía y tener un plan listo para cuando se vulnere a un cuarto proveedor.
Fireworks AI, una plataforma de inferencia que aloja y sirve modelos de IA para otras empresas, ha divulgado dos incidentes relacionados. Según su boletín de seguridad original, Fireworks identificó el uso no autorizado de credenciales internas el 6 de octubre de 2026 y determinó que las variables de entorno de trabajos de evaluación, incluidas claves de API y tokens almacenados como secretos, probablemente fueron capturadas en un número limitado de cuentas de clientes.
El aviso actualizado de Fireworks, con última actualización el 9 de noviembre, agrega un segundo evento. Un proveedor de nube externo que alojaba las máquinas de I+D de Fireworks sufrió un incidente de seguridad el 23 de octubre, y el 24 de octubre la parte no autorizada lo utilizó para llegar a las máquinas de desarrollo de Fireworks y ejecutar una carga de trabajo. Fireworks indica que los datos expuestos pueden incluir información de cuentas y facturación (la empresa indica que no almacenaba números de tarjetas de pago y que estos no se vieron afectados), secretos de un conjunto limitado de cuentas, conjuntos de datos de ciertos clientes y un subconjunto de pesos de modelos incompletos. La empresa contrató a Unit 42 de Palo Alto Networks para el análisis forense y vincula la actividad con un grupo con motivación financiera que vende acceso robado a modelos a través de pasarelas de enrutamiento ilícitas, una práctica que denomina LLMjacking. Fireworks también afirma que no detectó impacto en sus servicios con retención cero de datos, incluida la inferencia. La cobertura de The Record, BleepingComputer y The Register sigue la misma cronología.
Notion utilizaba Fireworks para su función Insights y como proveedor de inferencia para modelos de pesos abiertos. En su aviso a clientes, Notion señala que las transcripciones de chats de Notion AI, es decir, las entradas y salidas de los chats de IA, pudieron estar en los datos accedidos durante el incidente, lo que afecta a menos del 1% de los espacios de trabajo. The Record informa que Notion se enteró del incidente el 2 de noviembre y que Fireworks le comunicó el 6 de noviembre que los datos de clientes pudieron haber sido accedidos.
Notion indica que se desconectó de Fireworks, eliminó sus datos del sistema de Fireworks, desactivó Insights y comenzó a auditar a sus proveedores críticos para verificar el cumplimiento de la retención cero de datos. También indicó a sus clientes que, si alguien pegó contraseñas, claves de API u otras credenciales en Notion AI durante ese periodo, debe rotarlas de inmediato. Esa última instrucción es la lección para todo líder de TI: los datos que se escriben en una herramienta de IA pueden viajar más lejos que la herramienta misma.
El riesgo en la cadena de suministro de IA es la exposición que se genera cuando sus datos pasan por proveedores que usted no eligió directamente. Una cadena típica se ve así:
Cada eslabón guarda credenciales, registros, conjuntos de datos o transcripciones. Su revisión de seguridad normalmente cubre solo el segundo eslabón.
Comience con un inventario de todas las funciones de IA en uso y luego rastree a dónde envía datos cada una. Un enfoque práctico:
Nuestra guía de automatización del riesgo de proveedores de IA muestra cómo los agentes pueden mantener este registro actualizado en lugar de depender de un cuestionario anual.
Los contratos determinan qué puede exponer una brecha en un cuarto proveedor y qué tan rápido se entera usted. Solicite estos términos por escrito:
| Término | Qué solicitar |
|---|---|
| Retención de datos | Retención cero para prompts y respuestas, o un periodo de retención corto y declarado |
| Uso para entrenamiento | Ningún uso de su contenido para entrenar o ajustar modelos sin su consentimiento expreso |
| Uso para analítica | Claridad sobre si las transcripciones alimentan funciones de analítica del producto |
| Notificación de brechas | Un plazo de notificación definido que cubra incidentes en los subprocesadores |
| Cambios de subprocesadores | Aviso previo y derecho a objetar antes de que se agregue un nuevo proveedor de inferencia |
| Eliminación | Eliminación confirmada en los subprocesadores al terminar el contrato o al retirar a un subprocesador |
Las opciones de retención cero de datos merecen atención especial. Fireworks indica que sus servicios con retención cero de datos no mostraron impacto detectado, mientras que los secretos, los conjuntos de datos y los pesos de modelos incompletos almacenados sí se vieron afectados; las transcripciones de Notion expuestas se almacenaban para una función de analítica. Los datos que nunca se almacenan no pueden robarse después.
Trate cada cuadro de prompts de IA como un lugar al que nunca deben ir los secretos. Tanto el robo de credenciales en Fireworks como la recomendación de rotación de Notion apuntan al mismo hábito.
Un plano de control con pasarela de IA es un lugar práctico para aplicar el escaneo, la redacción de datos sensibles y los registros de cada llamada a un modelo en un solo punto.
La minimización de datos limita el radio de impacto de cualquier brecha en la cadena. Elimine nombres, números de cuenta y datos personales antes de la inferencia cuando la tarea lo permita. Envíe solo los campos que una función necesita, no registros completos. Registre qué sistemas y usuarios envían datos a qué modelos, y conserve esos registros donde su equipo de seguridad ya los supervisa. Para pautas que el personal pueda seguir, consulte nuestra guía para proteger los datos de la empresa al usar IA.
Para cargas de trabajo sensibles, como las legales, financieras, de salud o de código fuente, considere la inferencia alojada o privada, en la que los modelos se ejecutan en un entorno que usted controla, con su propia retención, registros y protección de endpoints. Nuestro equipo de AI DevOps construye los flujos que mantienen esas implementaciones actualizadas y supervisadas.
Sus proveedores de IA tienen sus propios proveedores. Mapee los subprocesadores de inferencia detrás de cada función de IA, exija retención cero de datos, ningún uso para entrenamiento y avisos rápidos de brechas que cubran a los subprocesadores, mantenga los secretos fuera de los prompts y minimice lo que envía. Tenga listo un plan para incidentes en cuartas partes antes de necesitarlo.
Actúe con rapidez y asuma que hubo exposición hasta que el proveedor demuestre lo contrario. Una secuencia breve de respuesta:
Nuestra práctica de Seguridad de IA ayuda a los equipos a construir este plan, y nuestro equipo de consultoría de IA puede priorizar qué proveedores revisar primero.
Es un proveedor que utiliza su proveedor. Cuando una herramienta SaaS agrega una función de IA, a menudo envía los prompts a un proveedor de inferencia o de alojamiento de modelos independiente. Usted no tiene un contrato directo con ese proveedor, pero sus datos pueden llegar a él, por lo que debe incluirse en su revisión de riesgo de proveedores.
Notion indica que las transcripciones de chats de Notion AI enviadas a Fireworks pudieron estar en los datos accedidos durante el incidente, lo que afecta a menos del 1% de los espacios de trabajo. Notion se desconectó de Fireworks, desactivó su función Insights y recomendó rotar las credenciales que se hubieran pegado en Notion AI.
La reduce. Los datos que un proveedor de inferencia nunca almacena no pueden sustraerse posteriormente. Fireworks indica que sus servicios con retención cero de datos no mostraron impacto detectado, mientras que los secretos, los conjuntos de datos y los pesos de modelos incompletos almacenados sí se vieron afectados; las transcripciones de Notion expuestas se almacenaban para una función de analítica. Los términos de retención, uso para analítica y subprocesadores siguen siendo importantes.
Confirme si sus proveedores utilizan a ese proveedor y luego rote las credenciales almacenadas en él o pegadas en las herramientas de IA afectadas, revocándolas ante el servicio emisor. Revise el contenido afectado, vigile el uso inusual de API y los picos de facturación, e involucre al área legal en los deberes de notificación.
Considérela para cargas de trabajo con datos regulados, confidenciales o propietarios, como los legales, financieros, de salud o de código fuente. Ejecutar los modelos en un entorno que usted controla le permite definir la retención, los registros y la protección de endpoints, en lugar de heredar la cadena de subprocesadores de un proveedor.
Infonaligy ayuda a organizaciones de todo el país a evaluar el riesgo de sus proveedores de IA y de su cadena de inferencia, con entrega remota desde nuestra base en Dallas–Fort Worth y apoyo presencial en las ciudades de nuestra página de áreas de servicio.
Agende un diagnóstico de 30 minutos y mapearemos las funciones de IA y los subprocesadores de inferencia que sus equipos usan hoy, revisaremos los términos de retención, entrenamiento y aviso de brechas, verificaremos cómo llegan los secretos y los datos sensibles a las herramientas de IA y esbozaremos un plan de respuesta a incidentes en cuartas partes.