Agentes de IA con acceso a datos personales ya venden, compran, reservan y escriben en nombre de sus dueños. Un usuario le encargó al suyo vender un objeto y tocó «permitir siempre» creyendo que el sistema seguiría pidiendo autorización ante cada oferta. El agente cerró el trato solo: aceptó el precio, compartió la dirección de la casa y el comprador apareció en la puerta sin que el dueño supiera de la cita.
Ese caso abre el documento «Asistentes y agentes de IA: Decálogo para personas usuarias», publicado este 27 de octubre por la Agencia Española de Protección de Datos (AEPD), el regulador de privacidad de España. El texto lleva un lema breve: «Que la IA actúe por ti, no sin ti». La Agencia propone cinco preguntas antes de delegar: qué puede ver el asistente, qué puede recordar, qué puede hacer en nombre de la persona, dónde envía los datos y si la tarea afecta a alguien más.
Un error deja de ser una frase fea y pasa a ser un contrato
La AEPD marca una diferencia que cambia el cálculo de riesgo. Con un asistente que solo responde, un error es una respuesta equivocada; con uno que actúa, el error puede ser un correo enviado, un archivo compartido, una compra pagada, un contrato aceptado o un consentimiento firmado en nombre del dueño. Por eso el decálogo pide límites escritos antes de conectar servicios: el agente prepara y la persona aprueba, con permisos recortados a lo imprescindible para cada tarea y sin autorizaciones permanentes abiertas de par en par.
La guía añade un matiz que casi nadie configura: decirle al agente qué debe evitar, además de qué debe hacer. Ese límite orienta, pero no sustituye los permisos del sistema ni las confirmaciones previas al envío de mensajes, la entrega de archivos, un pago o una contratación, acciones con consecuencias fuera de la pantalla que no se deshacen con un botón de retroceso.
La memoria del agente y las instrucciones escondidas
Con el paso de las semanas, la memoria de estos sistemas arma un perfil fino de gustos, rutinas, horarios y preocupaciones. La Agencia recomienda borrar datos desde los controles de memoria, historial y privacidad del servicio, sin confiar esa limpieza a una simple petición dentro de la conversación: pedirle al asistente que olvide algo no equivale a borrarlo del sistema. El perfil queda en servidores del proveedor, y ahí manda el panel de ajustes, no la charla.
El otro frente es más silencioso. Una página web, un correo, un documento o una invitación de calendario pueden esconder instrucciones invisibles, como texto blanco sobre fondo blanco, escritas para que el agente obedezca a un tercero y no a su dueño: enviar datos a otra dirección o aprobar una operación no pedida. Ninguna medida elimina ese riesgo por completo, y la defensa práctica es recortar lo que el agente puede hacer si alguien logra engañarlo.
Elegir bien al proveedor forma parte del mismo cuidado. La Agencia aconseja revisar quién presta el servicio: empresas claramente identificadas, vías reales para ejercer los derechos de privacidad y, cuando exista la opción, procesamiento de datos en el propio dispositivo en lugar de servidores lejanos. Para un lector en América Latina, ese punto pesa doble: casi todos los asistentes de la región operan con leyes de otros países, y reclamar un borrado puede volverse una gestión larga si el proveedor ni siquiera nombra un responsable.
El decálogo no nace en el vacío. La misma Agencia publicó antes una guía extensa sobre inteligencia artificial agéntica y en septiembre comunicó la primera notificación de una brecha de datos personales en la que el ataque habría sido ejecutado mediante un agente de IA, un caso todavía en análisis cuando se hizo público. Ese antecedente explica el tono del nuevo documento: menos teoría y más frenos concretos para un programa que ya opera con credenciales, bandejas de entrada y métodos de pago reales.
Agentes de IA en el trabajo, en casa y con menores
En la oficina, la recomendación es tajante: usar solo los asistentes autorizados por la organización y jamás conectar el correo o los documentos del empleo a una cuenta personal de IA. En casa manda otra cautela: en el correo, la agenda y las fotos viaja información de terceros que nunca aceptaron relacionarse con ese sistema, y los dispositivos compartidos piden perfiles separados, con perfiles propios para menores y acompañamiento adulto durante su uso. La cuenta y el equipo piden el mismo celo: complementos y conectores solo de origen conocido, y una ruta clara para detener al agente y retirarle los accesos antes de necesitarla.
La Agencia reparte la carga. Los proveedores de estas herramientas deben ofrecer permisos comprensibles que distingan consultar de actuar, confirmación configurable para las acciones de mayor peso, un historial visible de lo que el agente hizo, un modo inmediato de detenerlo, gestión y borrado de la memoria, y avisos claros sobre a quién se envían los datos y si alimentan el entrenamiento de la IA.
El decálogo se suma a «Cuidado con lo que le confIAs», la guía previa de la Agencia con recomendaciones básicas de privacidad en herramientas de IA, dentro de su Plan Estratégico 2025-2030. La prueba práctica llegará con los próximos ajustes de cada plataforma: historial completo de acciones, freno inmediato y borrado de memoria real, y no una promesa en una pantalla de configuración.
Fuente: AEPD
Descubre más desde Tecnología Geek
Suscríbete y recibe las últimas entradas en tu correo electrónico.
