Copilot: mensen kunnen je vragen en de foto's die je stuurt te zien krijgen

Wanneer je een zin of een foto naar een assistent met artificiële intelligentie stuurt, wekt de interface de indruk van een gesloten uitwisseling tussen een persoon en een machine. In sommige gevallen kan er toch een derde aanwezige in het gesprek opduiken: een menselijke beoordelaar.

Interne documenten en getuigenissen van onderaannemers wijzen erop dat honderden mensen die werden aangeworven om de consumentenversie van Microsoft Copilot te verbeteren, echte vragen kunnen ontvangen, samen met door gebruikers geüploade afbeeldingen en de resultaten die het systeem genereert. Hun taak bestaat er onder meer in te beoordelen of het antwoord van de AI wel overeenkomt met de vraag.

Microsoft verbergt het principe niet helemaal. De documentatie over privacy bij Copilot vermeldt dat opgeleide specialisten gesprekken kunnen bekijken om de nauwkeurigheid en veiligheid van de modellen te ontwikkelen, te evalueren en te verbeteren. De zaak laat echter zien wat die abstracte formulering achter een scherm kan betekenen: echte foto's, echte mensen en soms inhoud waarop de beoordelaars niet waren voorbereid.

Kwaliteitsbeoordelaars, niet alleen moderatoren

Het belangrijkste element is de aard van het gevraagde werk. De onderaannemers zouden niet alleen verboden inhoud moeten opsporen of een melding behandelen. Ze moeten ook bepalen of Copilot de ontvangen opdracht correct heeft uitgevoerd.

Dat lijkt onschuldig wanneer het gaat om de kleur van een lucht bijwerken of een voorwerp verplaatsen. De taak verandert van aard wanneer de vraag betrekking heeft op het lichaam van een echte persoon, een geseksualiseerde bewerking, een afbeelding die zonder duidelijke toestemming werd verkregen of inhoud die op uitbuiting kan wijzen. De ondervraagde beoordelaars zeggen expliciete beelden te hebben gezien, vragen die verband hielden met eetstoornissen en mogelijk illegaal materiaal.

Volgens stukken die 404 Media kon inkijken, vroegen instructies de werknemers soms om op hun intuïtie te vertrouwen om te beslissen of het resultaat aan de wens van de gebruiker beantwoordde. Verschillende van hen zeggen dat ze niet vooraf werden gewaarschuwd over hoe vaak ingrijpende inhoud zou opduiken.

Microsoft antwoordde dat klantgegevens worden gebruikt in overeenstemming met de voorwaarden, onder meer om producten te verbeteren en de gedragscode te doen naleven. Het rekruteringsbedrijf Prolific, dat in de documenten over de beoordelaars wordt genoemd, had op het moment van de eerste onthullingen geen publieke reactie gegeven.

Die organisatie roept twee verschillende veiligheidsvragen op. De eerste betreft de gebruiker van wie de gegevens worden bekeken. De tweede betreft de werknemer die soms, zonder voldoende context, een gewelddadige, seksuele of psychologisch belastende afbeelding krijgt. De ene beschermen garandeert niet automatisch de bescherming van de andere.

‘Geanonimiseerd’ betekent niet altijd onherkenbaar

Microsoft zegt maatregelen te nemen om gegevens die een persoon kunnen identificeren te verwijderen voordat gesprekken worden gebruikt om modellen te trainen: namen, contactgegevens, identificatiecodes, adressen en bepaalde metadata. Volgens de documentatie kunnen gezichten in bestanden die voor training bestemd zijn ook worden vervaagd.

De getuigenissen over het beoordelingswerk beschrijven nochtans foto's waarop gezichten zichtbaar blijven. Het gaat niet noodzakelijk om dezelfde verwerkingsketen. Gegevens die worden gebruikt om een model te trainen, voorbeelden die worden geselecteerd om een antwoord te beoordelen en inhoud die na een waarschuwing wordt nagekeken, kunnen verschillende circuits volgen.

Dat is precies het probleem voor de gebruiker: het woord ‘anonimisering’ vat meerdere technische bewerkingen samen die niet dezelfde bescherming bieden. De naam van een account verwijderen maakt een scherp portret niet anoniem. De metadata van een foto wissen haalt geen gezicht, uniform, woning of leesbaar document in de afbeelding weg.

Een privacybeleid kan dus binnen zijn eigen kader juist zijn en toch onvoldoende om een concrete situatie te begrijpen. Om te weten wat een beoordelaar echt ziet, moet je de betrokken pijplijn kennen: selectie, automatische detectie, bewerking van de afbeelding, presentatie aan de mens en bewaring van diens beslissing.

Training uitschakelen houdt niet elke menselijke controle tegen

De verwarring komt vaak voort uit drie verschillende toepassingen van dezelfde gegevens:

1. een model trainen om zijn toekomstige gedrag te veranderen;
2. de kwaliteit van een reeds gegeven antwoord beoordelen;
3. een mogelijk misbruik of een overtreding van de regels onderzoeken.

Bij de Copilot voor particulieren kan een aangemelde gebruiker beslissen dat zijn toekomstige gesprekken niet zullen dienen om de modellen te trainen. Hij kan ook gesprekken uit zijn geschiedenis verwijderen. Microsoft zegt gespreksactiviteit standaard 18 maanden te bewaren; een geüpload bestand kan tot 18 maanden worden bewaard, tenzij de gebruiker het eerder verwijdert.

Maar de optie rond training is geen universele schakelaar. Microsoft verduidelijkt dat sommige gesprekken automatisch en door mensen kunnen worden geanalyseerd om het product of de digitale veiligheid te verbeteren. Wanneer een gesprek ervan verdacht wordt de gedragscode te schenden, kan een beperkte menselijke controle nodig blijven, en voor die stap is geen weigering mogelijk.

Met andere woorden: ‘gebruik mijn gesprekken niet om de AI te trainen’ en ‘toon mijn inhoud nooit aan een mens’ zijn twee verschillende vragen.

Copilot voor consumenten is niet Microsoft 365 Copilot

Het merk Copilot dekt verschillende producten, en hun regels zijn niet identiek. De onthullingen gaan over de consumentendienst en zijn chat- en beeldfuncties. Ze laten niet toe te besluiten dat elke uitwisseling in Word, Excel, Teams of een professionele omgeving hetzelfde circuit volgt.

Voor Microsoft 365 Copilot met een werk- of schoolaccount stelt Microsoft dat vragen, antwoorden en gegevens uit Microsoft Graph niet worden gebruikt om de grote basismodellen te trainen. Het bedrijf geeft ook aan dat deze diensten het misbruiktoezicht van Azure OpenAI, dat een menselijke controle van de inhoud omvat, hebben uitgeschakeld.

Die bescherming ontslaat een organisatie niet van de plicht om haar eigen instellingen, agenten van derden, bewaarregels en de rechten in SharePoint of Teams te controleren. Ze betekent alleen dat een persoonlijke account in de Copilot-app en een beheerde account in een Microsoft 365-omgeving niet als één en hetzelfde product mogen worden behandeld.

Wat je beter niet naar een consumentenassistent stuurt

De nuttigste regel is niet om elke chatbot als openbaar te beschouwen. Beschouw hem als een clouddienst die je aan een derde toevertrouwt, met logs, veiligheidscontroles en de mogelijkheid van menselijke tussenkomst.

Voordat je op ‘verzenden’ drukt, verkleinen enkele voorzorgen het risico sterk:

• upload geen identiteitskaart, medisch dossier, niet-gepubliceerd contract of document met inloggegevens;
• snijd foto's bij en maskeer zelf gezichten, nummerplaten, badges, adressen en overbodige achtergrondelementen;
• stuur geen foto van iemand anders zonder diens toestemming, zeker niet om diens lichaam of uiterlijk te bewerken;
• vervang namen, dossiernummers en contactgegevens door fictieve waarden voordat je om een herformulering vraagt;
• controleer de instellingen voor training, personalisatie en geschiedenis afzonderlijk: ze regelen niet hetzelfde;
• gebruik voor professionele doeleinden uitsluitend de tool en de account die je organisatie heeft goedgekeurd.

Een gesprek achteraf verwijderen blijft nuttig, maar de beste bescherming komt vóór de overdracht. Gegevens die niet werden verstuurd, hoeven niet te worden gefilterd, geanonimiseerd of aan de discipline van een onderaannemer te worden toevertrouwd.

De echte ‘mens in de lus’

De sector stelt menselijke aanwezigheid vaak voor als een garantie: een persoon houdt toezicht op de machine, corrigeert haar fouten en voorkomt misbruik. Dat klopt, maar het is onvolledig. Die mens wordt ook een nieuwe mogelijke bestemming voor de gegevens.

Ernstig toezicht zou dus beide kanten van het scherm moeten beschermen. De gebruiker moet weten in welke omstandigheden zijn inhoud kan worden ingezien, in welke vorm en hoelang. De beoordelaar moet een opleiding krijgen, een waarschuwing over de aard van het materiaal, middelen om een taak te weigeren en gepaste ondersteuning bij moeilijke inhoud.

Het bestaan van menselijke controle is op zich geen schandaal. Het kan de veiligheid van een dienst verbeteren. Het gebrek aan duidelijkheid ontstaat wanneer de interface op een privégesprek lijkt, terwijl de werkelijke organisatie op een industriële beoordelingslijn lijkt.