Persooa Responsible AI Policy 2026 Versión 2026.1
Objetivo
Persooa diseña, implementa y opera sistemas de AI para clientes del ecosistema Synerise: AI decisioning, recomendaciones, predicciones (churn, likelihood-to-buy, Next-Best-Action), personalización en tiempo real y agentic customer engagement. Esta política establece los principios con los que lo hacemos de forma responsable - en línea con el enfoque basado en el riesgo que se deriva, entre otras cosas, del AI Act, y con las buenas prácticas del mercado.
Categorización del riesgo
Clasificamos cada caso de uso de AI según su nivel de impacto en el cliente final:
| Nivel | Ejemplos | Supervisión requerida |
|---|---|---|
| Bajo | Recomendaciones de producto, content personalization | Monitoring, posibilidad de darse de baja |
| Medio | Segmentación, scoring de marketing, best time to contact | Human review de las reglas, pruebas de sesgo |
| Alto | Decisiones que afectan al acceso a ofertas, precios o prestaciones | Human-in-the-loop, explicabilidad, auditoría |
No realizamos casos de alto riesgo en áreas reguladas (p. ej. scoring crediticio) sin un mandato explícito, un marco legal y supervisión por parte del cliente.
Prácticas prohibidas. Persooa no diseña ni implementa sistemas de AI que entren en la categoría de riesgo inaceptable en el sentido del AI Act - en particular técnicas de manipulación subliminal, explotación de vulnerabilidades (edad, discapacidad, situación económica) ni scoring social.
Correspondencia de escalas. Aplicamos nuestra propia clasificación interna del riesgo (bajo/medio/alto) inspirada en el enfoque basado en el riesgo del AI Act; no es idéntica a las categorías legales del AI Act (inaceptable / alto / limitado / mínimo). La calificación formal de un sistema concreto en el sentido del AI Act se realiza conjuntamente con el cliente.
Roles en el sentido del AI Act. En un modelo de colaboración típico, el cliente actúa como implementador (deployer) y Persooa como socio que configura y opera la solución en la plataforma Synerise. Las obligaciones propias del deployer (entre otras, la evaluación de impacto sobre los derechos fundamentales - FRIA cuando sea necesaria, la supervisión humana, la información a las personas) permanecen del lado del cliente; nosotros proporcionamos la documentación y el soporte necesarios para cumplirlas. Cuando el alcance del trabajo convierte a Persooa en proveedor de un componente de AI, asumimos las obligaciones de documentación correspondientes - la distribución de roles se confirma en el contrato.
Human-in-the-loop
- Las decisiones con un impacto significativo en el cliente final permanecen bajo supervisión humana.
- La AI apoya la decisión, no libera a la organización de su responsabilidad.
- Definimos puntos de escalado claros en los que el sistema traspasa el asunto a una persona.
- Los operadores tienen la posibilidad de detener (kill switch) y sobrescribir el funcionamiento de la automatización.
Explicabilidad (explainability)
- Para los modelos de decisión y de recomendación, sabemos describir la lógica de funcionamiento, las características de entrada clave y las limitaciones.
- Preferimos soluciones interpretables allí donde el nivel de riesgo lo exige.
- Documentamos los modelos (objetivo, datos, supuestos, métricas, limitaciones conocidas) para que el cliente pueda auditarlos.
Minimización de datos (data minimization)
- El modelo recibe únicamente los datos realmente necesarios para lograr el objetivo.
- Evitamos recopilar «por si acaso»; ajustamos el alcance de los datos al caso de uso.
- Aplicamos seudonimización y agregación allí donde bastan para obtener el resultado.
Privacy by Design
- La privacidad se diseña en la arquitectura de la solución desde el principio, no se añade al final.
- Los fines del tratamiento son transparentes; los datos no se utilizan para fines incompatibles con el original sin una base.
- Los mecanismos de consentimiento y de preferencias del cliente se respetan a nivel de activación (Carta de Ética de Datos).
Mitigación de sesgos
- Probamos los modelos para detectar discriminación no intencionada hacia grupos protegidos y vulnerables.
- Monitorizamos el drift de los modelos y la calidad de los datos de entrada a lo largo del tiempo.
- No utilizamos características sensibles (ni sus proxys directos) como base para la segmentación.
- Si se detecta un sesgo dañino, suspendemos o corregimos el modelo.
Controles de seguridad
- Acceso a los datos de entrenamiento y de producción conforme al principio de mínimo privilegio.
- Entornos separados (dev/test/prod), control de versiones de modelos y datos.
- Salvaguardas frente al abuso de los modelos (p. ej. prompt injection, data exfiltration) en soluciones con GenAI.
- Detalles: Declaración de Seguridad y Gobernanza.
Gobernanza de la AI
- Cada proyecto de AI tiene un propietario asignado responsable del cumplimiento de esta política.
- Mantenemos un registro de los casos de uso de AI realizados para el cliente (model inventory).
- Las decisiones de poner en marcha casos de alto riesgo requieren la aprobación por parte del cliente.
- La política se revisa al menos una vez al año y ante cambios regulatorios importantes.
- Para los casos de riesgo elevado, proporcionamos el registro de los eventos clave del funcionamiento del sistema (audit trail) que permite rastrear las decisiones.
- Tras la implementación, monitorizamos los modelos (calidad, drift, incidentes); reportamos las anomalías importantes al cliente y lo apoyamos en el cumplimiento de las obligaciones de notificación derivadas de las regulaciones.
Principios de la AI generativa (GenAI)
- Una persona verifica - los contenidos generados por la AI pasan por una revisión humana antes de su publicación o acción allí donde el riesgo lo exige.
- Sin datos de clientes en modelos públicos - no introducimos datos confidenciales de clientes en herramientas GenAI que no ofrezcan garantías de tratamiento adecuadas.
- Etiquetado - allí donde las regulaciones o la ética lo exigen, etiquetamos las interacciones y los contenidos generados por la AI.
- Nada de deceptive AI - no creamos sistemas que suplanten a una persona de forma engañosa, ni deepfakes manipuladores.
- Derechos de propiedad intelectual - respetamos los derechos de autor y las licencias al utilizar la GenAI.
- Transparencia según el AI Act (artículo 50). Cuando corresponda, garantizamos que una persona física sea informada de una interacción con un sistema de AI y que los contenidos generados o modificados sustancialmente por la AI puedan etiquetarse como generados artificialmente (incluido en un formato legible por máquina cuando la regulación lo exija).
Agentes AI (agentic commerce)
- Los agentes operan dentro de límites de autoridad claramente definidos; más allá de ellos, escalan a una persona.
- Las acciones críticas de los agentes son reversibles o requieren confirmación.
- Las acciones de los agentes se registran y son auditables.
- El cliente final es informado cuando interactúa con un sistema de AI.
- En la personalización de ofertas y precios en la UE, no diferenciamos a los clientes únicamente por motivos de nacionalidad o ubicación, conforme a los principios para prevenir el bloqueo geográfico injustificado (Reglamento UE 2018/302).
Propietario del documento: Dirección de Persooa / persona responsable de la gobernanza de la AI. Revisión: anual. Versión: 2026.1. Este documento tiene carácter informativo y no constituye un compromiso contractual vinculante.