Salta al contenuto
PL Consulting
IT DE
Mit einem Berater sprechen

← Alle News

News Intelligenza artificiale Principi GDPR

Datifizierte Jugend, automatisierte Entscheidungsfindung: Datenschutz, KI und Entscheidungen der neuen Generationen durch computergestützte Sozialwissenschaften – der finnische Fall

Datifizierte Jugend, automatisierte Entscheidungsfindung: Datenschutz, KI und Entscheidungen der neuen Generationen durch computergestützte Sozialwissenschaften – der finnische Fall

Von Giorgia Lazzarotto

1. Das analytische Problem

Das Verhältnis zwischen Datenschutz, künstlicher Intelligenz und Entscheidungsprozessen wird in der Regel als rechtliche oder ethische Frage diskutiert. Dieser Artikel behandelt es stattdessen als Messproblem, wobei er sich des Instrumentariums der computergestützten Sozialwissenschaften (computational social science, CSS) bedient. CSS ist die Untersuchung sozialen Verhaltens mittels großskaliger digitaler Daten, maschinellem Lernen, Simulation und Netzwerkanalyse. Ihr Gründungsprogramm (Lazer und Kollegen, 2009, aktualisiert 2020) argumentierte, dass digitale Spuren es uns ermöglichen, das soziale Leben mit einer zuvor unmöglichen Granularität zu beobachten. Genau diese Granularität ermöglicht die zeitgenössischen Entscheidungssysteme, und dort wird der Datenschutz gewonnen oder verloren.

Drei Verschiebungen machen die neuen Generationen zu einem eigenen Fall, und nicht bloß zu einer reduzierten Version des Erwachsenenfalls. Erstens erzeugt, wer ungefähr nach dem Jahr 2000 geboren wurde, eine nahezu kontinuierliche Verhaltensspur seit der frühen Kindheit: Die Trainingsdaten, die sie später steuern werden, existieren also bereits, bevor sie sinnvoll zustimmen können. Zweitens werden viele ehemals diskretionäre und menschliche Entscheidungen – welchen Sozialdienst empfehlen, welchen Antragsteller beschleunigen, welchen Studenten als gefährdet melden – zunehmend an statistische Modelle delegiert. Drittens sind junge Menschen die Bevölkerungsgruppe, bei der der Staat aus Entwicklungs- und Schutzgründen am aktivsten eingreift, was bedeutet, dass ihre Daten nicht nur reichlich vorhanden sind, sondern auch institutionell genutzt werden, um zu handeln.

Finnland ist für all dies ein ungewöhnlich sauberes Studienfeld. Es kombiniert einen Sozialstaat mit einer breiten Registerbasis (wodurch Daten existieren und miteinander verknüpft werden können), ein hohes Maß an öffentlichem Vertrauen und digitaler Akzeptanz sowie eine ungewöhnlich starke Tradition der rechtlichen Prüfung administrativer Automatisierung. Das Ergebnis ist ein natürliches Experiment: Eine Gesellschaft, die eine ehrgeizige KI-Infrastruktur im öffentlichen Sektor aufgebaut und diese dann, in voller öffentlicher Sichtbarkeit, auf ihre verfassungsrechtlichen und datenschutzrechtlichen Verpflichtungen hin überprüft hat. Die finnische Geschichte, von etwa 2018 bis 2024, bietet uns konkrete Fälle zur Analyse anstelle abstrakter Hypothesen.

2. Ein Instrumentarium der computergestützten Sozialwissenschaften

Um Datenschutz, KI und Entscheidungen junger Menschen rigoros zu analysieren, ist es ratsam, die verwendeten Methoden explizit zu machen, da jede Methode ihre eigene datenschutzrechtliche Signatur mit sich bringt.

Digitale Spuren und Verhaltensdaten. Der Rohstoff der CSS ist der Abfall des gewöhnlichen Lebens: Verwaltungsregister, Dienstnutzungslogs, Sensor- und App-Daten. Der Rahmen von Matthew Salganik (Bit by Bit, 2018) ist hier nützlich: Spurendaten sind groß, immer aktiv und nicht-reaktiv, aber auch unvollständig, nicht-repräsentativ und unterliegen der Drift. Für junge Menschen ist die Spur dichter und länger als für jede frühere Kohorte, was die Vorhersage verbessert und gleichzeitig das Risiko der Re-Identifizierung erhöht.

Überwachte Vorhersage und Profiling. Ein Großteil der „KI“ in öffentlichen Diensten ist überwachtes maschinelles Lernen: Ein Modell lernt die statistische Beziehung zwischen Merkmalen und einem Ergebnis, um dann neuen Individuen eine Punktzahl zuzuweisen. Kleinberg und Kollegen (prediction policy problems, 2015) haben gezeigt, warum Regierungen dies attraktiv finden: Viele Politikaufgaben sind im Kern Vorhersageaufgaben. Das Datenschutzproblem besteht darin, dass eine genaue Vorhersage die Maximierung von Daten belohnt, was im direkten Konflikt mit der Datenminimierung steht, einem Kernprinzip des europäischen Datenschutzrechts.

Automatisiertes Entscheidungsverfahren (ADM). Wenn eine Vorhersage direkt mit einem administrativen Ergebnis verknüpft wird, ohne dass ein Mensch entscheidet, wird die Vorhersage zur Entscheidung. Hier trifft die CSS auf das ordnungsgemäße Verfahren, und hier werden die finnischen Fälle deutlicher.

Mikrosimulation und agentenbasierte Modellierung. Nicht alle computergestützten Methoden profilieren Individuen. Mikrosimulationsmodelle wie das finnische SISU simulieren, wie eine Änderung der Steuer- und Leistungsvorschriften eine repräsentative Bevölkerung beeinflussen würde, indem sie Registermikrodaten verwenden, um die Verteilungseffekte zu schätzen, bevor eine Politik verabschiedet wird (Statistics Finland, SISU). Dies ist eine Nutzung der Computergestützten Unterstützung von Entscheidungen, die darauf ausgelegt ist, den Datenschutz zu wahren: Sie basiert auf einer synthetischen oder geschützten Population, nicht auf einem identifizierten Bürger. Der Kontrast zwischen der SISU-ähnlichen Simulation und dem AuroraAI-ähnlichen individuellen Profiling ist eine der zentralen Unterscheidungen, die dieser Artikel zieht.

Kausale Inferenz versus Vorhersage. Ein wiederkehrender Fehler in der angewandten CSS ist es, eine prädiktive Korrelation so zu behandeln, als wäre sie eine Ursache, auf die man reagieren müsste. Ein Modell, das vorhersagt, welcher junge Mensch die Schule abbrechen wird, ist kein Modell dafür, warum er sie abbricht, und ein Eingreifen bei der vorhergesagten Person kann gleichzeitig unwirksam und stigmatisierend sein. Diese Unterscheidung ist wichtig für die Jugendpolitik, wo die Versuchung, frühzeitig auf einen Risikowert zu reagieren, stärker ist.

Algorithmisches Auditing und Rechenschaftspflicht. Schließlich umfasst die CSS die Untersuchung von Algorithmen als Governance-Objekte: Modelle Audits unterziehen, um deren Verzerrungen (Bias) zu identifizieren, Transparenz zu fordern und sie auf rechtliche Normen hin zu überprüfen. Im finnischen Fall ist der Auditor keine Forschungsgruppe, sondern eine Verfassungsinstitution, der parlamentarische Ombudsman, was uns ein seltenes öffentliches Audit der staatlichen ADM bietet.

Jede dieser Methoden impliziert ein anderes Datenschutzmodell: Differential Privacy und Pseudonymisierung für geschützte Berechnungen, kontextuelle Integrität (Helen Nissenbaum), um zu beurteilen, wann ein Datenfluss angemessen ist, und vernetzte Privatsphäre (danah boyd), um zu verstehen, warum die individuelle Zustimmung ein schwaches Instrument in miteinander verbundenen Populationen ist. Ich werde später darauf zurückkommen.

3. Die Datifizierung der Entscheidungen junger Menschen

Bevor wir uns Finnland zuwenden, ist es ratsam zu präzisieren, was von wem entschieden wird. Die Entscheidungen junger Menschen werden auf drei Ebenen datifiziert.

Auf individueller Ebene formen Empfehlungs- und Bewertungssysteme die Gesamtheit der Optionen, die ein junger Mensch sieht: welcher Kurs, welche Leistung, welcher Dienst, welche Möglichkeit hervorgehoben oder verborgen wird. Die Arbeit von Sonia Livingstone über die Datenrechte von Minderjährigen betont, dass dies nicht nur eine Frage des Datenschutzes, sondern eine Frage der Handlungsfähigkeit (Agency) ist, da die Architektur der Wahl vor der eigentlichen Wahl definiert wird.

Auf institutioneller Ebene nutzen Verwaltungen prädiktive Modelle, um knappe Aufmerksamkeit zu verteilen: wen kontaktieren, wem Priorität einräumen, wen melden. Virginia Eubanks (Automating Inequality, 2018) hat dokumentiert, wie solche Systeme, selbst wenn sie gut gemeint sind, dazu neigen, die Prüfung auf bereits sichtbare Arme zu konzentrieren, da dies die Bevölkerung ist, deren Daten der Staat am vollständigsten besitzt. Junge Menschen, die mit Sozial-, Gesundheits- oder Kinderschutzsystemen in Kontakt stehen, sind genau eine solche hochsichtbare Population.

Auf gesellschaftlicher Ebene informieren Simulation und Vorhersage die Gestaltung der Regeln selbst: die Steuersätze, die Staffelung der Leistungen und die Zulässigkeitsschwellen, die die wirtschaftlichen Entscheidungen einer Generation strukturieren. Dies ist der Bereich von SISU.

Der Einsatz für den Datenschutz unterscheidet sich auf jeder Ebene. Das individuelle Scoring riskiert Profiling und sich selbst erfüllende Klassifizierung. Die institutionelle Zuweisung riskiert Rückkopplungsschleifen und ungleiche Exposition. Die gesellschaftliche Simulation ist, wenn gut gemacht, vergleichsweise harmlos, da sie kein Handeln bei einer identifizierten Person erfordert. Eine ernsthafte Analyse kann also nicht von „KI und Datenschutz“ im Singular sprechen; sie muss sich fragen, welche computergestützte Methode welche Funktion erfüllt.

4. Finnland als natürliches Labor

Finnland ist ein maximal datifizierter Sozialstaat. Seine Verwaltung arbeitet mit verknüpfbaren Personenregistern, und die automatisierte Verarbeitung ist keine Zukunftsperspektive, sondern eine etablierte Realität: Der stellvertretende parlamentarische Ombudsman stellte 2019 fest, dass über 80 Prozent der Entscheidungen der Steuerverwaltung vollständig automatisiert waren (AlgorithmWatch, Automating Society Finland, 2020). Gleichzeitig hat Finnland eine explizite Strategie verfolgt, KI zu einer bürgerschaftlichen und nicht-elitären Kompetenz zu machen, durch den kostenlosen Kurs Elements of AI, der 2018 von der Universität Helsinki und Reaktor ins Leben gerufen wurde, dessen erklärtes Ziel es war, einem Prozent der Bevölkerung die Grundlagen der KI beizubringen und der später in der gesamten EU angeboten wurde.

Was Finnland analytisch wertvoll macht, ist, dass dieser Ehrgeiz innerhalb der eigenen staatlichen Rechtsordnung auf Widerstand stieß. Dasselbe Land, das die meisten Steuerentscheidungen automatisiert hat, hat auch die klarsten öffentlichen Erklärungen hervorgebracht, wonach eine solche Automatisierung einer angemessenen Rechtsgrundlage entbehrte. Diese interne Spannung, mehr als jedes einzelne Projekt, ist der wahre Untersuchungsgegenstand.

5. AuroraAI: Vorhersage, Profiling und der digitale Zwilling junger Menschen

Der klarste Ausdruck des Paradigmas des individuellen Scorings war AuroraAI, das finnische nationale KI-Programm für personenzentrierte öffentliche Dienste, das 2020 als nationales Programm gestartet und vom Finanzministerium koordiniert wurde (Finnish Government, 2020). Seine leitende Idee war das „Lebensereignis“: In Momenten wie dem Schulabschluss, der Geburt eines Kindes oder der Genesung von einer Verletzung sollte AuroraAI eine Person mit den relevanten Diensten von öffentlichen, privaten und gemeinschaftlichen Anbietern in Kontakt bringen, indem KI genutzt wurde, um die Person zum richtigen Hilfsangebot zu lenken.

Durch das Instrumentarium der CSS betrachtet, war AuroraAI ein individuelles Empfehlungs- und Profiling-System. Um eine Person gut zu lenken, musste es die Situation dieser Person und ihre wahrscheinlichen Bedürfnisse aus den Daten ableiten, was eine überwachte Vorhersage ist, die auf Lebensumstände angewendet wird. Die gesammelten Kritiken entsprechen genau den bekannten Fehlerursachen der Methode (The Mandarin, 2023). Erstens die Autonomie: Ein System, das die Ziele einer Person ableitet und sie auf KI-bestimmte Dienstleistungspfade drängt, ersetzt eine modellierte Präferenz durch eine erklärte. Zweitens Bias und Drift: Auf historischen Daten trainierte Inferenzen riskieren, die in diesen Daten kodierten sozialen Muster zu reproduzieren. Drittens, und in der Praxis entscheidend, die Datenaggregation: Das Zusammenstellen eines kohärenten Bildes einer Person aus fragmentierten kommunalen, nationalen, privaten und gemeinschaftlichen Quellen stieß genau auf die rechtlichen Barrieren, die das europäische Datenschutzrecht und das finnische Verwaltungsrecht gegen die unkontrollierte Datenverknüpfung errichten.

Die Dimension der Jugend ist nicht zufällig. Im Jahr 2022 wurde AuroraAI in Zekki, einer Selbstbewertungs- und Dienstleistungsplattform für junge Menschen, getestet, und das gemeldete Ergebnis war vielsagend: Die Empfehlungen waren „nützlich, aber generisch“ und nicht wirklich personalisiert. Aus Sicht der CSS ist dies die Signatur des Cold-Start- und Sparsity-Problems: Für einen jungen Menschen existiert die informative und longitudinale Spur entweder noch nicht oder ist rechtlich abgeschottet, sodass das Modell auf Bevölkerungsdurchschnitte zurückgreift. Das schützende rechtliche Umfeld des Datenschutzes und die technischen Grenzen wiesen daher in dieselbe Richtung. AuroraAI wurde stillschweigend eingestellt, und die Wartung der zentralen Komponenten des Netzwerks endete am 31. Dezember 2023 (Digital and Population Data Services Agency, 2023).

Die lehrreiche Erkenntnis ist nicht, dass das Projekt technisch gescheitert ist. Es ist vielmehr, dass ein Ansatz des individuellen Profilings bei Jugendentscheidungen gleichzeitig mit zwei unabhängigen Einschränkungen kollidierte: einer Datenschutzordnung, die sich der Verknüpfung widersetzt, die ein solches Profiling benötigt, und der evolutionären Realität, dass junge Menschen genau die Gruppe sind, für die eine genaue individuelle Vorhersage schwieriger und ethisch belasteter ist. Wenn das Profil dünn ist, liefert das System entweder weniger als erwartet (generische Ratschläge) oder überschreitet sein Mandat (indem es das ableitet, was es nicht wissen kann). Beide Ergebnisse sind im finnischen Fall sichtbar.

6. Automatisiertes Entscheidungsverfahren und das Audit des ordnungsgemäßen Verfahrens

Wenn AuroraAI die Grenzen der Empfehlung aufzeigt, so zeigen Fälle automatisierter Entscheidungsverfahren, was passiert, wenn die Vorhersage mit einem bindenden Ergebnis verschmilzt. Hier bietet Finnland etwas Seltenes: ein öffentliches und quasi-gerichtliches Audit staatlicher Algorithmen, das von einer Verfassungsinstitution durchgeführt wird.

Im November 2019 erklärte der stellvertretende parlamentarische Ombudsman das automatisierte Entscheidungsverfahren der Steuerverwaltung für rechtswidrig, basierend auf drei Gründen, die sich wie eine Checkliste des ordnungsgemäßen Verfahrens für ADM lesen (AlgorithmWatch, 2020). Der erste war die Rechtsgrundlage: Die Automatisierung beruhte auf einer allgemeinen Gesetzgebung, die niemals explizit die algorithmische Entscheidungsfindung autorisiert hatte, und das Fehlen eines definierten und überprüfbaren Verfahrens untergrub die öffentliche Kontrolle. Der zweite war die Rechenschaftspflicht: Die Verantwortung war abstrakten „Prozessverantwortlichen“ zugewiesen worden, anstatt identifizierbaren Beamten, was im Widerspruch zur finnischen verfassungsrechtlichen und strafrechtlichen Anforderung steht, dass eine benannte Person für eine Verwaltungsakt verantwortlich ist. Der dritte war die ordnungsgemäße Durchführung: Die Bürger wurden nicht darüber informiert, wann eine Entscheidung automatisiert war, und konnten die Begründung der Entscheidung nicht erhalten. Parallel dazu eröffnete der Kanzler der Justiz eine Untersuchung gegen das Institut für soziale Sicherheit, Kela, das jährlich Leistungen in Höhe von etwa 15,5 Milliarden Euro auszahlt, bezüglich der Undurchsichtigkeit, welche seiner Entscheidungen automatisiert waren. Der Migrationsdienst, Migri, stieß auf Einwände vom Verfassungsrechtsausschuss des Parlaments, als er versuchte, die Bearbeitung von Genehmigungen zu automatisieren.

Die Lehre aus Sicht der CSS ist, dass dies nicht primär Beschwerden über die Genauigkeit des Modells sind. Es sind Beschwerden über den Zusammenbruch der Unterscheidung zwischen Vorhersage und Entscheidung ohne einen entsprechenden rechtlichen und verfahrenstechnischen Apparat. Ein genaues Modell, das mit einem Verfahren ohne Rechenschaftspflicht verbunden ist, ist dennoch rechtswidrig. Die Antwort Finnlands war legislativ und nicht nur kritisch: Eine allgemeine Gesetzgebung über automatisierte Entscheidungsverfahren in der öffentlichen Verwaltung, zusammen mit Änderungen des Gesetzes über das Verwaltungsverfahren (Administrative Procedure Act), trat 2023 in Kraft und bietet eine explizite Rechtsgrundlage für ADM neben Garantien in Bezug auf Dokumentation, Transparenz und Rechenschaftspflicht (Finnish Government, 2023).

Für junge Menschen ist die Bedeutung konkret. Entscheidungen, die am wahrscheinlichsten in großem Maßstab automatisiert werden – studentische Leistungen, Wohnbeihilfen, Arbeitslosigkeits- und Aktivierungsmaßnahmen – betreffen stark Personen am Beginn des Erwachsenenlebens, die am wenigsten gerüstet sind, ein fehlerhaftes automatisiertes Ergebnis zu erkennen und anzufechten. Ein Recht zu wissen, dass eine Entscheidung automatisiert wurde, und deren Begründung zu erhalten, ist in der Praxis ein Recht, das junge Menschen unverhältnismäßig schützt, da sie gerade in jenen Entscheidungsflüssen mit hohem Volumen und geringer Ermessensspielraum, die die Automatisierung zuerst ins Visier nimmt, überrepräsentiert sind.

7. Das personenzentrierte Gegenmodell: MyData und Findata

Finnland hat nicht nur eine Warnung hervorgebracht. Es hat auch zwei der kohärentesten institutionellen Antworten auf das Dilemma Datenschutz versus Nutzen hervorgebracht, und beide sind analytisch wichtig, weil sie die Position von Kontrolle und Berechnung verändern.

MyData ist ein in Finnland entwickeltes, personenzentriertes Modell zur Verwaltung persönlicher Daten, das in einem Whitepaper von Poikola, Kuikkaniemi und Honko aus dem Jahr 2015 dargelegt und später von MyData Global, einer in Helsinki ansässigen Organisation, durch deren Grundsatzerklärung weiterentwickelt wurde (University of Helsinki research portal; MyData Declaration). Seine zentrale These ist, dass Einzelpersonen eine handlungsfähige Kontrolle über ihre Daten haben sollten, einschließlich Zugangs- und Portabilitätsrechten sowie der Befugnis, Datenflüsse an Dritte zu autorisieren. In Bezug auf CSS versucht MyData, den Punkt der Zustimmung von einem einmalig angekreuzten Kästchen auf eine kontinuierliche, widerrufbare und maschinenlesbare Autorisierung zu verlagern, was eine direkte Antwort auf das gut dokumentierte Scheitern des Notice-and-Consent-Modells im großen Maßstab ist.

Findata, die finnische Behörde für die Genehmigung von Sozial- und Gesundheitsdaten (Finnish Social and Health Data Permit Authority), die 2020 auf Grundlage des Gesetzes über die Sekundärnutzung von Gesundheits- und Sozialdaten (seit 2019 in Kraft) eingerichtet wurde, befasst sich mit der anderen Hälfte des Problems: wie rechnerische Forschung und Entwicklung mit sensiblen Daten ermöglicht werden kann, ohne identifizierte Personen preiszugeben (Findata). Der Mechanismus ist ein genehmigungsbasiertes System, bei dem verknüpfte Gesundheits- und Sozialdaten pseudonymisiert und in einer sicheren Verarbeitungsumgebung analysiert werden, sodass Forscher statistische Ergebnisse statt roher Identitäten erhalten. Dies ist faktisch die Institutionalisierung datenschutzfreundlicher Berechnung: Sie ermöglicht es der Gesellschaft, über die Gesundheits- und Sozialergebnisse ihrer jungen Bevölkerung auf aggregierter Ebene, bei der Modellbildung, nachzudenken, während sie den Analysten strukturell die individuelle Re-Identifizierung verweigert, die individuelles Profiling erfordert.

Nebeneinander gestellt bilden MyData, Findata und SISU eine kohärente Alternative zum AuroraAI-Paradigma. Während AuroraAI versuchte, anhand der identifizierten Person Berechnungen durchzuführen, um die Entscheidungen dieser Person zu lenken, berechnet diese zweite Familie entweder mit widerruflicher Zustimmung der Person (MyData) oder auf einer geschützten und de-identifizierten Population (Findata, SISU), um kollektive Entscheidungen zu informieren. Der Datenschutzunterschied liegt nicht im Grad, sondern in der Architektur. Es ist der Unterschied zwischen gewahrter kontextueller Integrität und verletzter kontextueller Integrität im Sinne von Nissenbaum: Daten, die für Pflege oder Verwaltung gesammelt wurden und gemäß kontrollierter und lesbarer Normen in eine statistische Nutzung einfließen, versus Daten, die in einem Kontext gesammelt und zur Profilierung und Lenkung in einem anderen Kontext wiederverwendet werden.

8. Spezifische Dynamiken junger Menschen: Zustimmung, Privacy Calculus und vernetzte Autonomie

Warum sollten junge Menschen als Sonderfall und nicht als gewöhnliche Datensubjekte behandelt werden? Drei Ergebnisse der Verhaltens- und Computerliteratur rechtfertigen dies.

Erstens ist das sogenannte Datenschutz-Paradox bei jungen Nutzern stärker ausgeprägt: Die erklärte Sorge um den Datenschutz sagt das Offenlegungsverhalten nur schwach voraus, da die Offenlegung unter Bedingungen begrenzter Rationalität (der Privacy Calculus) von der unmittelbaren sozialen Belohnung geleitet wird. Ein auf jugendlichem Verhalten trainiertes Modell lernt also aus Entscheidungen, die unter systematisch verzerrten Anreizen getroffen wurden, und die Behandlung dieser Entscheidungen als offenbarte und autonome Präferenzen verwandelt eine strukturelle Bedingung in ein individuelles Signal, indem sie diese „bereinigt“.

Zweitens ist der Datenschutz für junge Menschen vernetzt, nicht individuell (danah boyd). Die Daten eines Jugendlichen werden von Gleichaltrigen, Eltern, Schulen und Plattformen mitproduziert, sodass die individuelle Zustimmung sie im Prinzip nicht schützen kann; die relevante Einheit ist das Netzwerk, nicht die Person. Genau diese Eigenschaft macht Profiling machbar – fehlende Daten über einen jungen Menschen können aus seinen Kontakten abgeleitet werden – und genau diese Eigenschaft können auf individuellen Rechten basierende Instrumente nicht erfassen. Die finnischen Wohlfahrtsregister sind eine formale Version dieses vernetzten Substrats, weshalb die rechtliche Frage immer wieder auf die Datenverknüpfung und die Rechtsgrundlage zurückkam, mehr als auf jede einzelne Zustimmung.

Drittens ist die entwicklungsbedingte Autonomie ein bewegliches Ziel. Junge Menschen sind per Definition bestrebt, anders zu werden als ihr vergangenes Selbst. Ein System, das einen jungen Menschen anhand seiner historischen Spur vorhersagt und dann auf dieser Vorhersage basiert, riskiert, eine Identität einzufrieren, die die Person das Recht hat zu überwinden – eine Sorge, die sich an das europäische Recht auf Löschung anknüpft, aber darüber hinausgeht. Die AuroraAI-Intuition, die Ziele einer Person abzuleiten, ist gerade für jene problematischer, deren Ziele noch nicht definiert sind.

Diese drei Ergebnisse münden in einer einzigen methodologischen Warnung. Bei Erwachsenen kann man zumindest argumentieren, dass Verhaltensdaten konsolidierte Präferenzen unter normalen Anreizen widerspiegeln. Bei jungen Menschen spiegeln die Daten Präferenzen wider, die instabil, sozial mitproduziert und unter Belohnungsstrukturen geformt werden, die gerade von den Plattformen optimiert werden, die die Messung durchführen. Das inferentielle Terrain ist daher genau dort schwächer, wo die Versuchung zum Eingreifen am stärksten ist.

9. Was die computergestützten Sozialwissenschaften sehen können und was nicht

Eine ehrliche Analyse muss die Lupe auf sich selbst richten, denn die CSS ist kein neutraler Beobachter dieses Systems; sie ist ein Instrument davon.

Die CSS ist stark in Beschreibung und Vorhersage. Sie kann anhand von Register- und Spurendaten zeigen, wie sich die Ergebnisse junger Menschen gruppieren, wie die Dienstnutzung durch eine Bevölkerung fließt und wie eine Reform der Leistungen das Einkommen umverteilen würde (der Anwendungsfall von SISU). Dies sind legitime und wertvolle Anwendungen und, bemerkenswerterweise, sind es jene Anwendungen, die unter einem Findata-ähnlichen Schutz ohne individuelles Profiling realisiert werden können.

Die CSS ist schwach und gefährlich, wenn die prädiktive Genauigkeit mit kausalem Verständnis oder einem Mandat zum Handeln gegenüber Individuen verwechselt wird. Ein Modell, das mit hoher Genauigkeit das soziale Desengagement junger Menschen vorhersagt, erklärt es dennoch nicht, und es zu verwenden, um Individuen ins Visier zu nehmen, wandelt ein beschreibendes Instrument in eine Entscheidung um, die den Apparat des ordnungsgemäßen Verfahrens erfordert, auf den der finnische Ombudsman bestanden hat. Die methodologische Unterscheidung zwischen Vorhersage und Kausalität ist hier keine akademische Hygiene; sie ist die Linie, die Analyse von einer Governance ohne Rechenschaftspflicht trennt.

Darüber hinaus gibt es einen reflexiven Datenschutzpreis, der spezifisch für die Messung ist. Um Datenschutzverhalten computergestützt zu untersuchen, müssen Verhaltensdaten gesammelt werden, so dass die Forschung selbst innerhalb des Phänomens angesiedelt ist, das sie untersucht. Die finnische Antwort – pseudonymisierte und genehmigungsgebundene Analyse in sicheren Umgebungen – ist sowohl ein Modell für verantwortungsvolle CSS als auch für eine verantwortungsvolle Verwaltung. Dieselbe Architektur, die den Bürger vor der Profilierung durch den Staat schützt, schützt den Forschungsgegenstand vor der Profilierung durch den Forscher.

Schließlich sollte die CSS ehrlich zur Repräsentativität sein. Registerdaten erfassen die Bevölkerung, die in Kontakt mit Institutionen steht, was die Sichtbaren und Regierten überrepräsentiert. Modelle über junge Menschen auf dieser Basis zu konstruieren, birgt das Risiko des Rückkopplungseffekts von Eubanks: Die jungen Menschen, die das System am klarsten sieht, werden zu den jungen Menschen, die es am intensivsten prüft, und die daraus resultierenden Daten bestätigen den ursprünglichen Fokus. Kein Grad an Modellverfeinerung korrigiert ein Stichprobenbild, das selbst das Produkt ungleicher institutioneller Aufmerksamkeit ist.

10. Fazit

Analysiert durch die Methoden der computergestützten Sozialwissenschaften, löst sich das Problem Datenschutz-KI-Entscheidungen für die neuen Generationen in einer einzigen Unterscheidung mit großen Konsequenzen auf: die Berechnung über das identifizierte Individuum, um es zu orientieren, versus die Berechnung mit widerruflicher Zustimmung oder über eine geschützte Population, um kollektive Entscheidungen zu informieren. Finnland hat beide Experimente öffentlich durchgeführt. Das erste, AuroraAI, stieß an die Grenzen der Profilierung einer Population, deren Daten dünn, vernetzt und rechtlich geschützt sind, und wurde eingestellt. Das zweite – das Beharren des Ombudsmanns auf der Rechtsgrundlage und Rechenschaftspflicht, die Gesetzgebung von 2023 zum automatisierten Entscheidungsverfahren und die Architekturen MyData und Findata – zeigt, wie man die analytische Kraft der Berechnung bewahren kann, indem man ihr gleichzeitig die individuelle Re-Identifizierung und die entscheidungslose Verantwortlichkeit (accountability) verwehrt, die sie gefährlich machen.

Die Lehre ist nicht, dass junge Menschen von datifizierten Diensten ausgeschlossen werden sollten, was weder möglich noch wünschenswert ist, sondern dass die Methode dem Einsatz gerecht werden muss. Simulation und de-identifizierte Analyse können und müssen die Regeln informieren, die die Entscheidungen einer Generation prägen. Individuelles Profiling und automatisiertes Entscheidungsverfahren müssen, wo sie junge Menschen betreffen, die volle Last von Transparenz, Anfechtbarkeit und nominaler Rechenschaftspflicht tragen, denn junge Menschen sind die Bevölkerung, die am wenigsten in der Lage ist, einen Fehler zu erkennen, und am meisten berechtigt ist, jemand zu werden, den ihre früheren Daten nicht vorhergesagt haben. Die computergestützten Sozialwissenschaften liefern sowohl die Werkzeuge, die diese Spannung erzeugen, als auch die notwendige Disziplin, um sie zu steuern. Das Jahrzehnt der finnischen Versuche ist das Nächstbeste, was wir an einem kontrollierten Test dafür haben, ob eine Gesellschaft das Erste haben kann, ohne dem Zweiten zu erliegen.

Quellen

Hinweis: Die im Text zitierten analytischen Rahmen stützen sich auf ein konsolidiertes Werk von Studien in computergestützten Sozialwissenschaften und Datenethik – darunter Lazer und Kollegen zu computergestützten Sozialwissenschaften, Bit by Bit von Salganik, Kleinberg und Kollegen zu Prediction Policy Problems, Nissenbaums kontextuelle Integrität, danah boyd zur vernetzten Privatsphäre, Sonia Livingstone zu den Datenrechten von Minderjährigen und Automating Inequality von Virginia Eubanks. Sie werden auf Konzept- und Autorenebene zitiert; für die genauen Formulierungen sollten die Leser die Originalwerke konsultieren.

Dies ist ein analytischer Essay zu Diskussionszwecken; er stellt keine Rechtsberatung dar.

Lesen Sie auch