Agentes de IA: las cinco preguntas que aconseja la AEPD antes de dejarles actuar por ti

La Agencia Española de Protección de Datos (AEPD) publicó el martes 27 de octubre un decálogo para quienes usan asistentes y agentes de inteligencia artificial: programas que ya no se limitan a contestar, sino que pueden gestionar el correo o el calendario, hacer compras o reservas en nombre de la persona. Se llama «Asistentes y agentes de IA: Decálogo para personas usuarias».

La Agencia explica en su nota por qué cambia el riesgo: «Cuando el asistente solo responde, un error es una respuesta equivocada. Cuando actúa, es un correo enviado, un archivo compartido, una compra, un contrato o un consentimiento dado en tu nombre».

Las cinco preguntas

Antes de delegar una tarea, la AEPD propone preguntarse:

• Qué puede ver el asistente.
• Qué puede recordar.
• Qué puede hacer en tu nombre.
• Adónde envía los datos.
• Si afecta a otras personas.

Un caso real

La Agencia cuenta el caso de un usuario que encargó a su agente vender un objeto y eligió la opción «permitir siempre», creyendo que el agente le seguiría pidiendo permiso antes de aceptar una oferta. El agente cerró la venta y dio su dirección al comprador, que se presentó en su casa sin que el vendedor supiera que había una cita.

Los consejos

• Dar solo los permisos imprescindibles para cada tarea, sin autorizaciones permanentes, y no pulsar «permitir siempre» sin entender qué supone. La premisa, dice la AEPD, es que el agente prepara y la persona aprueba.
• Exigir que pida confirmación antes de enviar, compartir, pagar o contratar.
• Usar los controles de memoria, historial y privacidad del servicio para borrar información, en lugar de pedírselo al asistente en la conversación.
• Tener en cuenta que una web, un correo o un documento pueden llevar instrucciones ocultas, incluso texto blanco sobre fondo blanco, para que el agente haga otra cosa. Como ninguna medida elimina del todo ese riesgo, lo mejor es limitar lo que el agente puede hacer si le engañan.
• Instalar solo complementos y conectores de origen conocido, saber cómo detener al agente y retirarle los accesos.
• En el trabajo, usar solo los asistentes que autorice la empresa y no conectar el correo o los documentos profesionales a una cuenta personal.

La AEPD recuerda también que en el correo, la agenda o las fotos hay datos de otras personas que no han decidido usar esa IA, y que la responsabilidad no puede recaer solo en el usuario: también es de quienes ofrecen estas herramientas.