Vandaag de dag bieden websites de mogelijkheid om een prijs voor een mens te berekenen, door fysieke gegevens, levensgewoonten of professionele vaardigheden te combineren. Het concept, vaak op een speelse toon gepresenteerd, roept echte vragen op over de grens tussen digitale entertainment en profilering. Het Europese juridische kader, versterkt sinds 2025, schetst duidelijke rode lijnen rond deze praktijken.
Sociale score en menselijke schatting: wat de EU AI Act sinds 2025 verbiedt
Voordat we het hebben over recreatieve sites, moeten we het regelgevende kader schetsen dat van toepassing is op elke vorm van geautomatiseerde evaluatie van een persoon. De Verordening (EU) 2024/1689, beter bekend als de EU AI Act, verbiedt sinds februari 2025 systemen van AI die worden gebruikt om een globale betrouwbaarheid of sociale waarde score aan een individu toe te kennen.
Dit verbod is van toepassing op zowel publieke als private actoren, zodra de score leidt tot een nadelige behandeling in een context zonder directe link met de verzamelde gegevens. Met andere woorden, het online gedrag van een persoon aggregeren om zijn “waarde” af te leiden en hem vervolgens een dienst of contract te weigeren, is een verboden praktijk op Europees grondgebied.
De tekst richt zich niet alleen op staatsapparaten geïnspireerd door de Chinese sociale kredietsystemen. Het omvat ook commerciële scoringtools die klanten of kandidaten zouden classificeren op basis van een globale “betrouwbaarheid” score die door een algoritme is berekend. Het onderscheid tussen een onschuldig online quiz en een echt profilering systeem ligt in het gebruik dat van het resultaat wordt gemaakt.
De vraag hoeveel ik online waard ben krijgt dan een andere wending, afhankelijk van of we het hebben over een virale game of een tool die een geautomatiseerde beslissing voedt.
GDPR en geautomatiseerde beslissingen: het filter van artikel 22
De EU AI Act werkt niet alleen. Artikel 22 van de GDPR verbiedt in principe dat een persoon wordt onderworpen aan een beslissing die uitsluitend is gebaseerd op geautomatiseerde verwerking, inclusief profilering, zodra deze beslissing juridische of significante effecten heeft. Er zijn drie uitzonderingen: de uitvoering van een contract, een specifieke wettelijke basis, of de expliciete toestemming van de betrokken persoon.
In de praktijk betekent dit dat een werkgever die een online tool zou gebruiken om de “waarde” van een kandidaat te “schatten” en een afwijzing van de aanstelling op dit resultaat zou baseren, in overtreding zou zijn. Dezelfde redenering geldt voor een verzekeraar die een premie zou aanpassen op basis van een automatisch berekende “persoonlijke waarde” score.
Commerciële profilering en lead scoring
Lead scoring, gebruikelijk in klantrelatiebeheersoftware, kent een score toe aan een prospect op basis van zijn digitaal gedrag. Deze praktijk is op zich niet verboden, maar valt onder de GDPR zodra deze leidt tot geautomatiseerde beslissingen die een significante impact op de persoon hebben.
De ervaringen in het veld verschillen hierover: sommige bedrijven beschouwen scoring als een eenvoudig hulpmiddel ter ondersteuning van menselijke besluitvorming, terwijl de gegevensbeschermingsautoriteiten de realiteit van effectieve menselijke controle onderzoeken.
De CNIL houdt toezicht op deze systemen en herinnert eraan dat profilering duidelijke informatie aan de betrokken persoon vereist, een recht op toegang tot de gebruikte gegevens, en de mogelijkheid om de beslissing aan te vechten.
Sites voor het schatten van menselijke waarde: entertainment of gegevensverzameling
Verschillende sites bieden de mogelijkheid om een vragenlijst in te vullen (leeftijd, lengte, opleidingsniveau, inkomen, gezondheidstoestand) om een “prijs” in dollars of euro’s te verkrijgen. De toon is opzettelijk speels. De resultaten hebben geen wetenschappelijke of economische geldigheid.
Het echte probleem is niet het weergegeven cijfer, maar wat er achter de schermen gebeurt. Elk ingevuld formulier genereert persoonlijke gegevens: gezondheidsinformatie, consumptiegewoonten, locatie. Deze gegevens hebben een reële commerciële waarde op de markt voor gerichte advertenties.
- Gezondheidsgegevens (aangegeven ziekten, alcoholconsumptie, lichamelijke activiteit) behoren tot de meest gevoelige categorieën onder de GDPR en vereisen expliciete toestemming voor elke verwerking.
- Socio-economische informatie (inkomen, diploma’s, gezinsstatus) voedt reclameprofielen die worden doorverkocht aan bureaus of gegevensmakelaars.
- Surfmetadata (IP-adres, type browser, sessieduur) maken inter-site tracking mogelijk, zelfs zonder registratie.
Een gebruiker die speelt met “zijn waarde schatten” levert gratis een digitaal portret dat bedrijven zouden betalen om te verkrijgen. Het geschatte product wordt zelf de geëxploiteerde data.
Ethische grenzen van algoritmische berekeningen toegepast op mensen
Een individu tot een cijfer reduceren, zelfs in de vorm van een spel, reproduceert een hiërarchische logica die problematisch wordt zodra deze buiten de speelse context wordt getransponeerd. De criteria die door deze sites worden gehanteerd (fysieke verschijning, inkomen, diploma’s) weerspiegelen meetbare sociale vooroordelen: een persoon met een handicap of zonder diploma krijgt mechanisch een lagere “prijs”.
De beschikbare gegevens stellen niet vast dat deze tools direct de perceptie beïnvloeden die een individu van zichzelf heeft. Echter, de banaliteit van menselijke kwantificering bereidt de weg voor veel minder onschuldige toepassingen.
Van virale quiz naar professionele scoring
De grens tussen online spel en wervings- of verzekeringsinstrument is poreuzer dan het lijkt. Bedrijven ontwikkelen “people analytics” oplossingen die de openbare gegevens van een kandidaat (sociale netwerken, publicaties, online beoordelingen) combineren om een indicator van compatibiliteit of betrouwbaarheid te berekenen. De EU AI Act classificeert deze systemen als hoog-risico toepassingen wanneer ze betrokken zijn bij werving, toegang tot krediet of verzekering.
De transparantie die door de Europese verordening wordt geëist, verplicht dat elke persoon die aan een dergelijk systeem is onderworpen, wordt geïnformeerd over het bestaan ervan, de gebruikte gegevens en de onderliggende logica. De richtlijnen die door de Europese Commissie zijn gepubliceerd over artikel 50 van de AI Act, met betrekking tot transparantievereisten, verduidelijken deze eisen voor algemene AI-systemen.
- De verplichting om aan te geven dat een inhoud of beslissing is gegenereerd of ondersteund door AI geldt voor alle leveranciers van AI-systemen op de Europese markt.
- Systemen die als hoog-risico zijn geclassificeerd, moeten technische documentatie verstrekken die toegankelijk is voor toezichthoudende autoriteiten.
- De betrokken personen behouden een recht op bezwaar en menselijke tussenkomst in het besluitvormingsproces.
Het schatten van de waarde van een persoon online blijft in de meeste gevallen een oefening zonder directe gevolgen. De echte vraag betreft de gegevens die in dit verband worden verzameld en hun hergebruik in ondoorzichtige circuits. Het Europese kader stelt stevige waarborgen, maar de toepassing ervan hangt af van de waakzaamheid van gebruikers net zo goed als van die van de toezichthouders.