Heute bieten Websites an, den Preis für einen Menschen zu berechnen, indem sie physische Daten, Lebensgewohnheiten oder berufliche Fähigkeiten miteinander verknüpfen. Das Konzept, das oft auf spielerische Weise präsentiert wird, wirft ernsthafte Fragen zur Grenze zwischen digitalem Entertainment und Profiling auf. Der europäische Rechtsrahmen, der seit 2025 verstärkt wurde, zieht klare rote Linien um diese Praktiken.
Sozialer Score und menschliche Schätzung: Was der EU AI Act seit 2025 verbietet
Bevor man über unterhaltsame Websites spricht, muss der regulatorische Rahmen festgelegt werden, der für jede Form der automatisierten Bewertung einer Person gilt. Die Verordnung (EU) 2024/1689, besser bekannt als EU AI Act, verbietet seit Februar 2025 die Verwendung von KI-Systemen zur Zuweisung eines globalen Zuverlässigkeits- oder Sozialwerts an eine Person.
Dieses Verbot richtet sich sowohl an öffentliche als auch an private Akteure, sobald der Score zu einer ungünstigen Behandlung in einem Kontext führt, der keinen direkten Bezug zu den gesammelten Daten hat. Mit anderen Worten, das Aggregieren des Online-Verhaltens einer Person, um ihren “Wert” abzuleiten und ihr dann einen Dienst oder einen Vertrag zu verweigern, stellt eine verbotene Praxis auf europäischem Boden dar.
Der Text zielt nicht nur auf staatliche Systeme ab, die vom chinesischen Sozialkredit inspiriert sind. Er umfasst auch kommerzielle Scoring-Tools, die Kunden oder Kandidaten nach einem globalen “Zuverlässigkeits”-Indikator klassifizieren, der algorithmisch berechnet wird. Der Unterschied zwischen einem harmlosen Online-Quiz und einem echten Profiling-System liegt in der Verwendung des Ergebnisses.
Die Frage, wie viel ich online wert bin, nimmt dann eine andere Wendung, je nachdem, ob man von einem viralen Spiel oder einem Tool spricht, das eine automatisierte Entscheidung beeinflusst.
DSGVO und automatisierte Entscheidungen: Der Filter des Artikels 22
Der EU AI Act funktioniert nicht allein. Artikel 22 der DSGVO verbietet grundsätzlich, dass eine Person einer Entscheidung, die ausschließlich auf automatisierter Verarbeitung, einschließlich Profiling, beruht, unterworfen wird, sobald diese Entscheidung rechtliche oder signifikante Auswirkungen hat. Es gibt drei Ausnahmen: die Erfüllung eines Vertrages, eine spezifische rechtliche Grundlage oder die ausdrückliche Zustimmung der betroffenen Person.
In der Praxis bedeutet dies, dass ein Arbeitgeber, der ein Online-Tool verwenden würde, um den “Wert” eines Kandidaten zu “schätzen” und eine Ablehnung auf dieser Grundlage zu begründen, sich in einer Rechtsverletzung befinden würde. Dasselbe gilt für einen Versicherer, der eine Prämie auf der Grundlage eines automatisch berechneten “persönlichen Wertes” anpassen würde.
Kommerzielles Profiling und Lead Scoring
Lead Scoring, das in CRM-Software verbreitet ist, weist einem Interessenten basierend auf seinem digitalen Verhalten einen Score zu. Diese Praxis ist an sich nicht verboten, fällt jedoch unter die DSGVO, sobald sie zu automatisierten Entscheidungen führt, die signifikante Auswirkungen auf die Person haben.
Die Rückmeldungen aus der Praxis sind diesbezüglich unterschiedlich: Einige Unternehmen betrachten das Scoring als ein einfaches Hilfsmittel für menschliche Entscheidungen, während die Datenschutzbehörden die Realität der tatsächlichen menschlichen Kontrolle prüfen.
Die CNIL überwacht diese Systeme und erinnert daran, dass Profiling eine klare Information der betroffenen Person, ein Recht auf Zugang zu den verwendeten Daten und die Möglichkeit zur Anfechtung der Entscheidung erfordert.
Websites zur Schätzung des menschlichen Wertes: Unterhaltung oder Datensammlung
Mehrere Websites bieten an, einen Fragebogen (Alter, Größe, Bildungsniveau, Einkommen, Gesundheitszustand) auszufüllen, um einen “Preis” in Dollar oder Euro zu erhalten. Der Ton ist absichtlich schräg. Die Ergebnisse haben keinerlei wissenschaftliche oder wirtschaftliche Validität.
Das eigentliche Thema ist nicht die angezeigte Zahl, sondern was hinter den Kulissen passiert. Jedes ausgefüllte Formular generiert persönliche Daten: Gesundheitsinformationen, Konsumgewohnheiten, Standort. Diese Daten haben einen sehr realen Marktwert im Bereich der gezielten Werbung.
- Gesundheitsdaten (angegebene Krankheiten, Alkoholkonsum, körperliche Aktivität) gehören zu den sensibelsten Kategorien im Hinblick auf die DSGVO und erfordern eine ausdrückliche Zustimmung für jede Verarbeitung.
- Sozioökonomische Informationen (Einkommen, Abschlüsse, Familiensituation) speisen Werbeprofile, die an Agenturen oder Datenbroker verkauft werden.
- Navigationsmetadaten (IP-Adresse, Browsertyp, Sitzungsdauer) ermöglichen eine intersite Verfolgung, auch ohne Anmeldung.
Ein Nutzer, der spielt, um “seinen Wert zu schätzen”, liefert kostenlos ein digitales Porträt, für das Unternehmen bezahlen würden. Das geschätzte Produkt wird selbst zur genutzten Daten.
Ethische Grenzen der algorithmischen Berechnung von Personen
Ein Individuum auf eine Zahl zu reduzieren, selbst im Spielmodus, reproduziert eine Logik der Hierarchisierung, die problematisch wird, sobald man sie außerhalb des spielerischen Rahmens anwendet. Die von diesen Websites verwendeten Kriterien (äußere Erscheinung, Einkommen, Abschlüsse) spiegeln messbare soziale Vorurteile wider: Eine Person mit Behinderung oder ohne Abschluss erhält mechanisch einen niedrigeren “Preis”.
Die verfügbaren Daten erlauben nicht den Schluss, dass diese Tools die Wahrnehmung, die ein Individuum von sich selbst hat, direkt beeinflussen. Allerdings bereitet die Banalisierung der menschlichen Quantifizierung den Boden für weit weniger harmlose Anwendungen.
Vom viralen Quiz zum professionellen Scoring
Die Grenze zwischen Online-Spiel und Rekrutierungs- oder Versicherungstool ist durchlässiger, als es scheint. Unternehmen entwickeln Lösungen für “People Analytics”, die die öffentlichen Daten eines Kandidaten (soziale Netzwerke, Veröffentlichungen, Online-Bewertungen) verknüpfen, um einen Kompatibilitäts- oder Zuverlässigkeitsindikator zu berechnen. Der EU AI Act stuft diese Systeme als Hochrisiko-Anwendungen ein, wenn sie im Rekrutierungsprozess, beim Zugang zu Krediten oder bei Versicherungen eingesetzt werden.
Die Transparenz, die durch die europäische Verordnung gefordert wird, verlangt, dass jede Person, die einem solchen System unterworfen ist, über dessen Existenz, die verwendeten Daten und die zugrunde liegende Logik informiert wird. Die von der Europäischen Kommission veröffentlichten Leitlinien zu Artikel 50 des AI Act präzisieren diese Anforderungen für allgemeine KI-Systeme.
- Die Verpflichtung, anzugeben, dass ein Inhalt oder eine Entscheidung von KI generiert oder unterstützt wird, gilt für alle Anbieter von KI-Systemen auf dem europäischen Markt.
- Hochrisikosysteme müssen eine technische Dokumentation bereitstellen, die für die Aufsichtsbehörden zugänglich ist.
- Die betroffenen Personen behalten ein Recht auf Anfechtung und menschliches Eingreifen im Entscheidungsprozess.
Die Schätzung des Wertes einer Person online bleibt in den meisten Fällen eine Übung ohne direkte Konsequenzen. Die wirklich relevante Frage betrifft die bei dieser Gelegenheit gesammelten Daten und deren Wiederverwendung in undurchsichtigen Kreisläufen. Der europäische Rahmen setzt solide Sicherheitsvorkehrungen, aber deren Anwendung hängt sowohl von der Wachsamkeit der Nutzer als auch von der der Regulierungsbehörden ab.