Copilot : des humains peuvent voir vos requêtes et les photos que vous envoyez

Lorsque vous envoyez une phrase ou une photo à un assistant d’intelligence artificielle, l’interface donne l’impression d’un échange fermé entre une personne et une machine. Dans certains cas, une troisième présence peut pourtant entrer dans la conversation : un évaluateur humain.

Des documents internes et des témoignages de sous-traitants indiquent que des centaines de personnes recrutées pour améliorer le Copilot grand public de Microsoft peuvent recevoir des requêtes réelles, les images téléchargées par les utilisateurs et les résultats générés par le système. Leur mission consiste notamment à juger si la réponse de l’IA correspond bien à la demande.

Microsoft ne cache pas entièrement le principe. Sa documentation consacrée à la confidentialité de Copilot précise que des spécialistes formés peuvent examiner des conversations afin de construire, d’évaluer et d’améliorer la précision et la sécurité des modèles. L’affaire révèle toutefois ce que cette formule abstraite peut signifier derrière un écran : de vraies photographies, de vraies personnes et parfois des contenus que les évaluateurs n’étaient pas préparés à voir.

Des évaluateurs de qualité, pas seulement des modérateurs

L’élément le plus important est la nature du travail demandé. Les sous-traitants ne seraient pas uniquement chargés de repérer un contenu interdit ou de traiter un signalement. Ils doivent aussi déterminer si Copilot a correctement exécuté la consigne reçue.

Cela peut sembler anodin lorsqu’il s’agit de corriger la couleur d’un ciel ou de déplacer un objet. La tâche change de nature lorsque la demande porte sur le corps d’une personne réelle, une transformation sexualisée, une image obtenue sans consentement évident ou un contenu susceptible de relever de l’exploitation. Les évaluateurs interrogés disent avoir rencontré des images explicites, des requêtes liées aux troubles alimentaires et du matériel potentiellement illégal.

Selon les éléments consultés par 404 Media, des consignes demandaient parfois aux travailleurs de se fier à leur intuition pour décider si le résultat répondait au souhait de l’utilisateur. Plusieurs d’entre eux affirment ne pas avoir été avertis à l’avance de la fréquence des contenus éprouvants.

Microsoft a répondu que les données des clients sont utilisées conformément à ses conditions, notamment pour améliorer ses produits et faire respecter son code de conduite. L’entreprise de recrutement Prolific, citée dans les documents relatifs aux évaluateurs, n’avait pas fourni de commentaire public au moment des premières révélations.

Cette organisation crée deux questions de sécurité différentes. La première concerne l’utilisateur dont les données sont examinées. La seconde concerne le travailleur qui reçoit parfois, sans contexte suffisant, une image violente, sexuelle ou psychologiquement difficile. Protéger l’un ne garantit pas automatiquement la protection de l’autre.

« Anonymisé » ne veut pas toujours dire méconnaissable

Microsoft explique prendre des mesures pour retirer les informations susceptibles d’identifier une personne avant d’utiliser des conversations pour entraîner ses modèles : noms, coordonnées, identifiants, adresses et certaines métadonnées. Sa documentation indique également que les visages présents dans les fichiers destinés à l’entraînement peuvent être floutés.

Les témoignages sur le travail d’évaluation décrivent pourtant des photographies où les visages restent visibles. Il ne s’agit pas nécessairement de la même chaîne de traitement. Les données utilisées pour l’entraînement d’un modèle, les échantillons sélectionnés pour évaluer une réponse et les contenus examinés après une alerte peuvent suivre des circuits différents.

C’est précisément le problème pour l’utilisateur : le mot « anonymisation » résume plusieurs opérations techniques qui ne donnent pas la même protection. Retirer le nom d’un compte ne rend pas anonyme un portrait net. Supprimer les métadonnées d’une photo n’efface pas un visage, un uniforme, un domicile ou un document lisible à l’intérieur de l’image.

Une politique de confidentialité peut donc être exacte dans son cadre et rester insuffisante pour comprendre une situation concrète. Pour savoir ce qu’un évaluateur voit réellement, il faut connaître le pipeline concerné : sélection, détection automatique, transformation de l’image, présentation à l’humain et conservation de sa décision.

Désactiver l’entraînement ne bloque pas toute révision humaine

La confusion vient souvent de trois usages différents des mêmes données :

1. entraîner un modèle afin de modifier son comportement futur ;
2. évaluer la qualité d’une réponse déjà produite ;
3. enquêter sur un possible abus ou une violation des règles.

Pour le Copilot destiné aux particuliers, une personne connectée peut décider que ses futures conversations ne serviront pas à l’entraînement des modèles. Elle peut aussi supprimer des conversations de son historique. Microsoft indique conserver l’activité de conversation pendant 18 mois par défaut ; un fichier téléversé peut être conservé pendant une durée allant jusqu’à 18 mois, sauf suppression antérieure par l’utilisateur.

Mais l’option concernant l’entraînement n’est pas un interrupteur universel. Microsoft précise que certaines conversations peuvent être soumises à une analyse automatisée et humaine pour améliorer le produit ou la sécurité numérique. Lorsqu’une conversation est soupçonnée d’enfreindre le code de conduite, une révision humaine limitée peut rester nécessaire et aucun refus n’est proposé pour cette étape.

Autrement dit, « ne pas utiliser mes conversations pour entraîner l’IA » et « ne jamais montrer mon contenu à une personne » sont deux demandes différentes.

Le Copilot grand public n’est pas Microsoft 365 Copilot

La marque Copilot couvre plusieurs produits, et leurs règles ne sont pas identiques. Les révélations concernent le service grand public et ses fonctions de conversation ou d’image. Elles ne permettent pas de conclure que chaque échange effectué dans Word, Excel, Teams ou un environnement professionnel suit le même circuit.

Pour Microsoft 365 Copilot utilisé avec un compte professionnel ou scolaire, Microsoft affirme que les requêtes, les réponses et les données issues de Microsoft Graph ne servent pas à entraîner les grands modèles de fondation. La société indique également que ces services ont désactivé le mécanisme d’Azure OpenAI de surveillance des abus comprenant une révision humaine du contenu.

Cette protection ne dispense pas une organisation de vérifier ses propres paramètres, ses agents tiers, ses règles de conservation et les autorisations accordées dans SharePoint ou Teams. Elle signifie seulement qu’un compte personnel dans l’application Copilot et un compte géré dans un environnement Microsoft 365 ne doivent pas être traités comme un seul produit.

Ce qu’il vaut mieux ne pas envoyer à un assistant grand public

La règle la plus utile n’est pas de considérer tout chatbot comme public. Elle consiste à le considérer comme un service cloud confié à un tiers, avec des journaux, des contrôles de sécurité et une possibilité d’intervention humaine.

Avant d’appuyer sur « envoyer », quelques précautions réduisent fortement le risque :

• ne téléversez pas de carte d’identité, de dossier médical, de contrat non publié ou de document contenant des identifiants ;
• recadrez les photographies et masquez vous-même les visages, plaques, badges, adresses et éléments d’arrière-plan inutiles ;
• n’envoyez pas la photo d’une autre personne sans son accord, surtout pour modifier son corps ou son apparence ;
• remplacez les noms, numéros de dossier et coordonnées par des valeurs fictives avant de demander une reformulation ;
• vérifiez les réglages d’entraînement, de personnalisation et d’historique séparément : ils ne contrôlent pas la même chose ;
• pour un usage professionnel, utilisez uniquement l’outil et le compte approuvés par votre organisation.

Supprimer une conversation après coup reste utile, mais la meilleure protection intervient avant le transfert. Une donnée qui n’a pas été envoyée ne doit être ni filtrée, ni anonymisée, ni confiée à la discipline d’un sous-traitant.

Le véritable « humain dans la boucle »

Le secteur présente souvent la présence humaine comme une garantie : une personne surveille la machine, corrige ses erreurs et empêche les abus. C’est vrai, mais incomplet. Cet humain devient également une nouvelle destination possible pour les données.

Une supervision sérieuse devrait donc protéger les deux côtés de l’écran. L’utilisateur doit savoir dans quelles circonstances son contenu peut être consulté, sous quelle forme et pendant combien de temps. L’évaluateur doit recevoir une formation, un avertissement sur la nature du matériel, des outils pour refuser une tâche et un soutien adapté aux contenus difficiles.

L’existence d’une révision humaine n’est pas, en elle-même, un scandale. Elle peut améliorer la sécurité d’un service. Le manque de clarté apparaît lorsque l’interface ressemble à une conversation privée tandis que l’organisation réelle ressemble à une chaîne industrielle d’évaluation.