Antes de pegar datos en una IA, clasifica el riesgo y prepara una salida

Para usar una herramienta de inteligencia artificial con datos de clientes, primero delimita la tarea, reduce la información al mínimo y decide si esa entrada puede salir de tus sistemas. Si bastan datos ficticios, agregados o realmente anónimos, no introduzcas el registro personal; si alguien todavía puede ser identificado, aplica los controles previstos para datos personales.

Documenta la decisión en una ficha de una página: finalidad, datos permitidos, acceso, proveedor, revisión humana, incidentes y alternativa manual. Así, clasificar el riesgo y preparar una salida se convierten en condiciones previas al uso, no en correcciones improvisadas después de una exposición o una caída del servicio.

Convierte cada uso en una ficha concreta

No autorices una actividad genérica como “usar IA para atención al cliente”. Define una tarea limitada: por ejemplo, redactar un borrador sobre un retraso sin aportar nombre, dirección, teléfono ni número completo de pedido. Una finalidad precisa permite identificar los campos innecesarios y reconocer usos posteriores que no fueron aprobados.

La ficha mínima puede reunir siete apartados:

• Finalidad: resultado esperado y usos expresamente excluidos.
• Datos de entrada: categorías necesarias, campos que deben sustituirse y datos prohibidos.
• Acceso: personas autorizadas y cuentas desde las que trabajan.
• Proveedor: servicio y versión aprobados, condiciones aplicables y fecha de revisión.
• Revisión humana: responsable de comprobar la salida antes de utilizarla.
• Incidentes: lugar de registro, criterios de suspensión y responsable del seguimiento.
• Alternativa: procedimiento manual, recursos necesarios y persona que puede activarlo.

Para tratamientos que presumiblemente presentan poco riesgo, la orientación para pymes de la AEPD indica que FACILITA_RGPD ayuda a elaborar el registro de actividades, cláusulas informativas y contractuales para encargados, además de medidas de seguridad. La ficha propuesta no sustituye esos documentos, la base jurídica aplicable ni una evaluación que resulte necesaria; es un control operativo vinculado al tratamiento correspondiente.

Clasifica la entrada antes de reducirla

Utiliza una escala interna sencilla, sin confundirla con una clasificación jurídica. El nivel bajo puede incluir información pública, catálogos y ejemplos ficticios. El intermedio abarca textos depurados cuyo contexto aún podría permitir reconocer a una persona: solo deberían emplearse en una tarea y un entorno previamente aprobados.

Establece un bloqueo interno para historiales médicos, documentos de identidad, credenciales, datos financieros completos, expedientes de menores y combinaciones detalladas que revelen a una persona. La recomendación operativa es no pegarlos en una herramienta general; cualquier excepción requiere una evaluación específica de privacidad y seguridad por la persona competente.

Quitar el nombre no equivale necesariamente a anonimizar. Una localidad pequeña, una fecha exacta, un puesto singular y el contenido de una reclamación pueden permitir una identificación indirecta. El texto oficial del RGPD exige que los datos sean adecuados, pertinentes y limitados a lo necesario; además, define la seudonimización como una transformación que requiere información adicional, conservada por separado, para atribuir los datos a una persona.

En un ejemplo hipotético, “María López, pedido 84721, vive en Calle Mayor 4 y solicita cambiar la entrega” podría reducirse a “una clienta solicita cambiar la entrega de un pedido”. Si la IA solo redactará una respuesta y no consultará ni modificará el pedido, no necesita esos identificadores.

Evalúa la versión concreta del proveedor

Las versiones gratuita, empresarial e integrada de un servicio pueden aplicar condiciones distintas. Antes de aprobar una, comprueba por escrito qué ocurre con entradas y salidas, durante cuánto tiempo se conservan, si pueden emplearse para otros fines, qué controles administrativos existen, qué terceros intervienen y cómo se solicita la supresión o exportación.

Determina también el papel del proveedor en el tratamiento y el contrato necesario. Una frase comercial como “tus datos están protegidos” no basta: conserva la política, el contrato y la configuración concreta que justifican la decisión, junto con su fecha de revisión. Si una respuesta no puede verificarse, trátala como una incertidumbre, no como una garantía.

Utiliza cuentas de empresa y permisos ajustados a cada función. Evita credenciales compartidas, porque dificultan atribuir quién introdujo información, modificó una opción o aprobó una salida. La baja de una persona del equipo debe retirar también su acceso al servicio.

Conserva la revisión humana y un registro útil

Define qué puede hacer la IA y qué requiere aprobación. En atención al cliente, la salida debe considerarse un borrador hasta que una persona compruebe exactitud, tono, datos personales revelados, instrucciones inexistentes y posibles consecuencias contractuales, financieras o de servicio.

Registra los incidentes sin volver a copiar el contenido sensible. Basta con anotar la tarea, la herramienta, el tipo de dato afectado, el posible acceso, la medida adoptada y la persona responsable del seguimiento. Incluye fallos contenidos antes de llegar al cliente: pueden revelar que una plantilla, una categoría de entrada o el propio servicio deben suspenderse.

Fija criterios de parada antes de que sean necesarios: pérdida de control sobre la conservación, cambios contractuales pendientes de evaluar, exposición de información, errores reiterados o imposibilidad de saber quién accedió. La persona designada debe poder pausar el uso mientras se investiga, sin esperar una conclusión definitiva.

Prepara la salida antes de depender del servicio

Una contingencia asumible no exige duplicar toda la tecnología. Conserva fuera de la IA la fuente de verdad, las plantillas esenciales, la cola de tareas afectadas y unas instrucciones breves para continuar manualmente. Asigna quién declara la interrupción, quién informa al equipo y cómo se incorporará después el trabajo pendiente.

El perfil de IA generativa del NIST propone documentar incidentes de terceros, ensayar los planes de respuesta y probar mecanismos de respaldo, incluido el procesamiento manual; también aconseja revisar contratos, responsabilidades, notificaciones, tiempos de respuesta y disponibilidad de soporte.

Prueba la alternativa con una tarea pequeña y realista. El equipo debe poder localizar el registro original, aplicar una plantilla, completar el trabajo sin la IA y dejar constancia de lo realizado. Si las instrucciones solo están dentro de la cuenta del proveedor o dependen de quien configuró el servicio, todavía no existe una salida operativa.

Usa una comprobación breve antes de pegar

La ficha puede terminar con una secuencia común para todo el equipo:

1. Confirmar que la tarea, la versión del servicio y la cuenta están aprobadas.
2. Identificar la finalidad y retirar todo dato que no sea necesario.
3. Sustituir identificadores solo si el contexto restante no permite reconocer a la persona.
4. Detenerse ante una categoría bloqueada o una duda sobre reidentificación.
5. Revisar la salida antes de guardarla, enviarla o incorporarla a una decisión.
6. Registrar el incidente o activar el método manual cuando se cumpla un criterio de suspensión.

La utilidad de la ficha está en obligar a decidir antes de pegar: qué mínimo necesita la tarea, qué incertidumbres presenta el proveedor y cómo continuará el trabajo si la herramienta deja de ser adecuada o disponible.

Lee también:

• Project Perception busca fallos con agentes, pero aún no ofrece una API
• Una sola clave abrió todas las bases de datos de un servicio cloud
• Tu agente de código hereda tus permisos: cómo recortarlos antes de ejecutar