Persooa Responsible AI Policy 2026 Version 2026.1
Objectif
Persooa conçoit, déploie et exploite des systèmes d'AI pour les clients de l'écosystème Synerise : AI decisioning, recommandations, prédictions (churn, likelihood-to-buy, Next-Best-Action), personnalisation en temps réel et agentic customer engagement. Cette politique définit les principes selon lesquels nous le faisons de manière responsable - conformément à l'approche fondée sur le risque qui découle, entre autres, de l'AI Act, et aux bonnes pratiques du marché.
Catégorisation du risque
Nous classons chaque cas d'usage de l'AI selon son niveau d'impact sur le client final :
| Niveau | Exemples | Supervision requise |
|---|---|---|
| Faible | Recommandations produits, content personalization | Monitoring, possibilité de se désinscrire |
| Moyen | Segmentation, scoring marketing, best time to contact | Human review des règles, tests de biais |
| Élevé | Décisions affectant l'accès aux offres, aux prix ou aux avantages | Human-in-the-loop, explicabilité, audit |
Nous ne réalisons pas de cas à haut risque dans des domaines réglementés (p. ex. le scoring de crédit) sans mandat explicite, cadre juridique et supervision du côté du client.
Pratiques interdites. Persooa ne conçoit ni ne déploie de systèmes d'AI relevant de la catégorie du risque inacceptable au sens de l'AI Act - en particulier les techniques de manipulation subliminale, l'exploitation des vulnérabilités (âge, handicap, situation économique) ou le scoring social.
Correspondance des échelles. Nous appliquons notre propre classification interne des risques (faible/moyen/élevé) inspirée de l'approche fondée sur le risque de l'AI Act ; elle n'est pas identique aux catégories légales de l'AI Act (inacceptable / élevé / limité / minimal). La qualification formelle d'un système donné au sens de l'AI Act est réalisée conjointement avec le client.
Rôles au sens de l'AI Act. Dans un modèle de collaboration typique, le client agit en tant que déployeur (deployer) et Persooa en tant que partenaire qui configure et exploite la solution sur la plateforme Synerise. Les obligations propres au déployeur (notamment l'analyse d'impact sur les droits fondamentaux - FRIA lorsqu'elle est requise, la supervision humaine, l'information des personnes) restent du côté du client ; nous fournissons la documentation et le support nécessaires à leur exécution. Lorsque l'étendue des travaux fait de Persooa le fournisseur d'un composant d'AI, nous assumons les obligations documentaires correspondantes - la répartition des rôles est confirmée dans le contrat.
Human-in-the-loop
- Les décisions ayant un impact significatif sur le client final restent sous supervision humaine.
- L'AI soutient la décision, elle ne décharge pas l'organisation de sa responsabilité.
- Nous définissons des points d'escalade clairs où le système transmet le dossier à un humain.
- Les opérateurs ont la possibilité d'arrêter (kill switch) et de remplacer le fonctionnement de l'automatisation.
Explicabilité (explainability)
- Pour les modèles de décision et de recommandation, nous savons décrire la logique de fonctionnement, les principales caractéristiques d'entrée et les limites.
- Nous préférons les solutions interprétables là où le niveau de risque l'exige.
- Nous documentons les modèles (objectif, données, hypothèses, métriques, limites connues) afin que le client puisse les auditer.
Minimisation des données (data minimization)
- Le modèle ne reçoit que les données réellement nécessaires à la réalisation de l'objectif.
- Nous évitons de collecter « au cas où » ; nous adaptons l'étendue des données au cas d'usage.
- Nous appliquons la pseudonymisation et l'agrégation là où elles suffisent à obtenir le résultat.
Privacy by Design
- La confidentialité est intégrée dès le départ dans l'architecture de la solution, elle n'est pas ajoutée à la fin.
- Les finalités du traitement sont transparentes ; les données ne sont pas utilisées à des fins incompatibles avec la finalité initiale sans fondement.
- Les mécanismes de consentement et de préférences du client sont respectés au niveau de l'activation (Charte d'éthique des données).
Atténuation des biais
- Nous testons les modèles pour détecter toute discrimination involontaire envers les groupes protégés et vulnérables.
- Nous surveillons le drift des modèles et la qualité des données d'entrée dans le temps.
- Nous n'utilisons pas de caractéristiques sensibles (ni leurs proxys directs) comme base de ciblage.
- En cas de détection d'un biais nuisible, nous suspendons ou corrigeons le modèle.
Contrôles de sécurité
- Accès aux données d'entraînement et de production selon le principe du moindre privilège.
- Environnements séparés (dev/test/prod), contrôle de version des modèles et des données.
- Protections contre l'abus des modèles (p. ex. prompt injection, data exfiltration) dans les solutions à base de GenAI.
- Détails : Déclaration de sécurité et de gouvernance.
Gouvernance de l'AI
- Chaque projet d'AI a un propriétaire désigné, responsable de la conformité à la présente politique.
- Nous tenons un registre des cas d'usage de l'AI réalisés pour le client (model inventory).
- Les décisions de lancer des cas à haut risque nécessitent une approbation du côté du client.
- La politique est revue au moins une fois par an et lors de changements réglementaires importants.
- Pour les cas à risque plus élevé, nous assurons la journalisation des événements clés du fonctionnement du système (audit trail) permettant de retracer les décisions.
- Après le déploiement, nous surveillons les modèles (qualité, drift, incidents) ; nous signalons les anomalies importantes au client et l'accompagnons dans l'exécution des obligations de déclaration découlant des réglementations.
Principes de l'AI générative (GenAI)
- Un humain vérifie - les contenus générés par l'AI passent par une revue humaine avant publication ou action là où le risque l'exige.
- Aucune donnée client dans les modèles publics - nous n'introduisons pas de données client confidentielles dans des outils GenAI qui n'offrent pas de garanties de traitement appropriées.
- Étiquetage - là où les réglementations ou l'éthique l'exigent, nous étiquetons les interactions et les contenus générés par l'AI.
- Pas de deceptive AI - nous ne créons pas de systèmes qui imitent un humain de manière trompeuse, ni de deepfakes manipulateurs.
- Droits de propriété intellectuelle - nous respectons les droits d'auteur et les licences lors de l'utilisation de la GenAI.
- Transparence selon l'AI Act (article 50). Le cas échéant, nous veillons à ce qu'une personne physique soit informée d'une interaction avec un système d'AI et à ce que les contenus générés ou substantiellement modifiés par l'AI puissent être étiquetés comme générés artificiellement (y compris dans un format lisible par machine lorsque la réglementation l'exige).
Agents AI (agentic commerce)
- Les agents opèrent dans des limites d'autorité clairement définies ; au-delà, ils escaladent vers un humain.
- Les actions critiques des agents sont réversibles ou nécessitent une confirmation.
- Les actions des agents sont journalisées et auditables.
- Le client final est informé lorsqu'il interagit avec un système d'AI.
- Dans la personnalisation des offres et des prix dans l'UE, nous ne différencions pas les clients uniquement en fonction de la nationalité ou de la localisation, conformément aux principes de lutte contre le blocage géographique injustifié (règlement UE 2018/302).
Propriétaire du document : direction de Persooa / personne responsable de la gouvernance de l'AI. Revue : annuelle. Version : 2026.1. Ce document est fourni à titre informatif et ne constitue pas un engagement contractuel contraignant.