Salta al contenuto
PL Consulting
IT DE
Mit einem Berater sprechen

← Alle News

News Intelligenza artificiale Principi GDPR

Datenisierte Jugend, Automatisierte Entscheidung: Datenschutz, KI und die Entscheidungsfindung von Jugendlichen – Der finnische Fall

Datenisierte Jugend, Automatisierte Entscheidung: Datenschutz, KI und die Entscheidungsfindung von Jugendlichen – Der finnische Fall

Von Giorgia Lazzarotto

1. Das analytische Problem

Das Verhältnis zwischen Datenschutz, künstlicher Intelligenz und Entscheidungsfindung wird üblicherweise als Rechts- oder Ethikfrage diskutiert. Dieser Artikel betrachtet es als Messproblem, unter Verwendung des Apparats der Computational Social Science (CSS). CSS ist die Untersuchung sozialen Verhaltens durch groß angelegte digitale Daten, maschinelles Lernen, Simulation und Netzwerkanalyse. Sein Gründungsprogramm (Lazer und Kollegen, 2009, aktualisiert 2020) argumentierte, dass digitale Spuren es uns ermöglichen, das soziale Leben mit einer bisher unmöglichen Granularität zu beobachten. Dieselbe Granularität ist genau das, was zeitgenössische Entscheidungsfindungssysteme möglich macht, und hier wird Datenschutz gewonnen oder verloren.

Drei Veränderungen machen die jungen Generationen zu einem eigenständigen Fall und nicht nur zu einer kleineren Version der erwachsenen Bevölkerung. Erstens erzeugen Menschen, die nach etwa 2000 geboren wurden, von früher Kindheit an eine nahezu kontinuierliche Verhaltensaufzeichnung, sodass die Trainingsdaten, die sie später steuern werden, bereits existieren, bevor sie dem sinnvoll zustimmen können. Zweitens werden viele Entscheidungen, die früher diskretionär und menschlich waren – welcher Sozialdienst zu empfehlen ist, welcher Antragsteller bevorzugt zu behandeln ist, welcher Student als gefährdet zu kennzeichnen ist – zunehmend an statistische Modelle delegiert. Drittens sind die jungen Menschen die Bevölkerungsgruppe, bei der der Staat aus entwicklungs- und schutzbezogenen Gründen am aktivsten eingreift, was bedeutet, dass ihre Daten nicht nur reichlich vorhanden sind, sondern auch institutionell verarbeitet werden.

Finnland ist ein ungewöhnlich geeigneter Ort, um dies zu untersuchen. Es vereint einen umfassenden, registerbasierten Wohlfahrtsstaat (so dass die Daten existieren und verknüpfbar sind), hohes öffentliches Vertrauen und digitale Akzeptanz sowie eine ungewöhnlich starke Tradition der rechtlichen Prüfung administrativer Automatisierung. Das Ergebnis ist ein natürliches Experiment: eine Gesellschaft, die eine ehrgeizige KI-Infrastruktur in der Regierung aufbaute und diese dann, in voller Öffentlichkeit, an ihren eigenen verfassungsrechtlichen und datenschutzrechtlichen Verpflichtungen testete. Die finnischen Aufzeichnungen von etwa 2018 bis 2024 liefern uns konkrete Fälle zur Analyse anstelle von Hypothesen.

2. Ein Computational-Social-Science Apparat

Um Datenschutz, KI und die Entscheidungsfindung von Jugendlichen rigoros zu analysieren, hilft es, die verwendeten Methoden explizit zu machen, da jede Methode ihre eigene Datenschutzsignatur trägt.

Digitale Spuren- und Verhaltensdaten. Das Rohmaterial der CSS ist das Abfallprodukt des gewöhnlichen Lebens: Verwaltungsregister, Nutzungsdaten von Diensten, Sensor- und App-Daten. Matthew Salganiks Framing (Bit by Bit, 2018) ist hier nützlich – Spurendaten sind groß, immer aktiv und nicht-reaktiv, aber auch unvollständig, nicht-repräsentativ und driftend. Für junge Menschen ist die Spur dichter und länger als für jede frühere Kohorte, was die Vorhersage verbessert und gleichzeitig das Risiko der Re-Identifikation erhöht.

Überwachte Vorhersage und Profiling. Die meisten „KI“ in öffentlichen Diensten basiert auf überwachtem maschinellem Lernen: Ein Modell lernt die statistische Beziehung zwischen Merkmalen und einem Ergebnis und bewertet dann neue Individuen. Kleinberg und Kollegen (prediction policy problems, 2015) zeigten, warum Regierungen dies attraktiv finden – viele politische Aufgaben sind im Kern Vorhersageaufgaben. Das Datenschutzproblem besteht darin, dass eine genaue Vorhersage die Datenmaximierung belohnt, was in direktem Widerspruch zur Datenminimierung steht, dem Kernprinzip des europäischen Datenschutzrechts.

Automatisierte Entscheidungsfindung (ADM). Wenn eine Vorhersage direkt mit einem Verwaltungsergebnis verknüpft wird, ohne dass ein Mensch entscheidet, wird aus der Vorhersage eine Entscheidung. Hier trifft CSS auf Due Process, und hier sind Finnlands Fälle am schärfsten.

Mikrosimulation und agentenbasierte Modellierung. Nicht alle computergestützten Methoden profilieren Individuen. Mikrosimulationsmodelle wie Finnlands SISU simulieren, wie eine Änderung im Steuer- und Leistungsrecht eine repräsentative Bevölkerung beeinflussen würde, indem sie Register-Mikrodaten verwenden, um Verteilungseffekte zu schätzen, bevor eine Politik in Kraft tritt (Statistik Finnland, SISU). Dies ist eine datenschutzfreundliche Nutzung von Berechnungen zur Entscheidungsunterstützung: Es wird über eine synthetische oder geschützte Bevölkerung argumentiert, nicht über einen identifizierten Bürger. Der Kontrast zwischen SISU-Simulation und AuroraAI-ähnlichem individuellem Profiling ist eine der zentralen Unterscheidungen, die dieser Artikel zieht.

Kausale Inferenz versus Vorhersage. Ein wiederkehrender Fehler in der angewandten CSS ist es, eine prädiktive Korrelation so zu behandeln, als wäre sie eine umsetzbare Ursache. Ein Modell, das vorhersagt, welcher junge Mensch die Schule abbrechen wird, ist kein Modell dafür, warum er die Schule abbricht, und ein Eingreifen bei der vorhergesagten Person kann sowohl ineffektiv als auch stigmatisierend sein. Diese Unterscheidung ist wichtig für die Jugendpolitik, wo die Versuchung, frühzeitig auf einen Risikowert zu reagieren, am stärksten ist.

Algorithmus-Auditing und Rechenschaftspflicht. Schließlich umfasst CSS die Untersuchung von Algorithmen als Objekte der Governance: Modelle auf Voreingenommenheit prüfen, Transparenz fordern und sie gegen rechtliche Normen testen. Im finnischen Fall ist der Prüfer kein Forschungsteam, sondern eine Verfassungsinstitution, der Parlamentarische Bürgerbeauftragte, was uns eine seltene öffentliche Prüfung der staatlichen ADM ermöglicht.

Jede dieser Methoden impliziert ein anderes Datenschutzmodell: differenziellen Datenschutz und Pseudonymisierung für geschützte Berechnungen, kontextuelle Integrität (Helen Nissenbaum) zur Beurteilung, wann ein Datenfluss angemessen ist, und vernetzten Datenschutz (danah boyd), um zu verstehen, warum die individuelle Einwilligung ein schwaches Instrument in vernetzten Populationen ist. Ich komme unten darauf zurück.

3. Die Datafizierung der Entscheidungen junger Menschen

Bevor wir uns Finnland zuwenden, lohnt es sich, genau festzuhalten, was von wem entschieden wird. Die Entscheidungen junger Menschen werden auf drei Ebenen datafiziert.

Auf individueller Ebene formen Empfehlungs- und Bewertungssysteme die Auswahlmöglichkeiten, die ein junger Mensch sieht: welcher Kurs, welche Leistung, welcher Dienst, welche Gelegenheit sichtbar gemacht oder verborgen wird. Sonia Livingstones Arbeit zu den Datenrechten von Kindern verdeutlicht, dass dies nicht nur eine Datenschutzfrage, sondern auch eine Frage der Handlungsfähigkeit ist, da die Architektur der Wahl vor der eigentlichen Wahl festgelegt wird.

Auf institutioneller Ebene nutzen Behörden prädiktive Modelle, um knappe Aufmerksamkeit zuzuweisen: wen sie kontaktieren, wen sie priorisieren, wen sie kennzeichnen sollen. Virginia Eubanks (Automating Inequality, 2018) dokumentierte, wie solche Systeme, selbst wenn sie gut gemeint sind, dazu neigen, die Prüfung auf die bereits sichtbaren Armen zu konzentrieren, da diese die Bevölkerungsgruppe sind, deren Daten der Staat am vollständigsten besitzt. Junge Menschen, die mit Sozial-, Gesundheits- oder Kinderschutzsystemen in Kontakt stehen, sind genau eine solche Bevölkerungsgruppe mit hoher Sichtbarkeit.

Auf gesellschaftlicher Ebene informieren Simulation und Prognose die Gestaltung der Regeln selbst – die Steuertarife, Leistungsstufen und Berechtigungsschwellen, die die wirtschaftlichen Entscheidungen einer Generation strukturieren. Dies ist das SISU-Register.

Die Datenschutzrisiken unterscheiden sich auf jeder Ebene. Individuelles Scoring birgt das Risiko von Profiling und selbsterfüllender Klassifizierung. Institutionelle Zuweisung birgt das Risiko von Rückkopplungsschleifen und ungleicher Exposition. Gesellschaftliche Simulation ist, wenn gut gemacht, vergleichsweise harmlos, da sie kein Handeln gegenüber einer identifizierten Person erfordert. Eine ernsthafte Analyse kann daher nicht von „KI und Datenschutz“ im Singular sprechen; sie muss fragen, welche computergestützte Methode welche Aufgabe erfüllt.

4. Finnland als natürliches Labor

Finnland ist ein maximal datafizierter Wohlfahrtsstaat. Seine Verwaltung basiert auf verknüpfbaren Personenregistern, und die automatisierte Verarbeitung ist keine Zukunftsaussicht, sondern eine etablierte Realität: der stellvertretende Parlamentarische Bürgerbeauftragte stellte 2019 fest, dass mehr als 80 Prozent der Entscheidungen der Steuerverwaltung vollständig automatisiert waren (AlgorithmWatch, Automating Society Finnland, 2020). Gleichzeitig verfolgte Finnland eine explizite Strategie, KI zu einer zivilen und nicht zu einer elitären Kompetenz zu machen, durch den kostenlosen Kurs „Elements of AI“, der 2018 von der Universität Helsinki und Reaktor ins Leben gerufen wurde und dessen erklärtes Ziel es war, einem Prozent der Bevölkerung die Grundlagen der KI beizubringen und der später in der gesamten EU angeboten wurde.

Was Finnland analytisch wertvoll macht, ist, dass dieser Ehrgeiz auf Widerstand innerhalb der eigenen Rechtsordnung des Staates stieß. Dasselbe Land, das die meisten Steuerentscheidungen automatisierte, lieferte auch die klarsten öffentlichen Feststellungen, dass einer solchen Automatisierung eine ausreichende Rechtsgrundlage fehlte. Diese interne Spannung, und nicht ein einzelnes Projekt, ist das eigentliche Untersuchungsobjekt.

5. AuroraAI: Vorhersage, Profiling und der digitale Zwilling der Jugend

Der klarste Ausdruck des Individual-Scoring-Paradigmas war AuroraAI, Finnlands nationales KI-Programm für menschenzentrierte öffentliche Dienste, das 2020 als nationales Programm gestartet und vom Finanzministerium koordiniert wurde (Finnische Regierung, 2020). Seine leitende Idee war das „Lebensereignis“: In Momenten wie dem Schulabschluss, der Geburt eines Kindes oder der Genesung von einer Verletzung würde AuroraAI eine Person mit relevanten Diensten von Regierungs-, Privat- und Gemeinschaftsanbietern verbinden, indem es KI nutzt, um das Individuum zur richtigen Hilfe zu leiten.

Durch den CSS-Apparat betrachtet, war AuroraAI ein Empfehlungs- und Profiling-System auf individueller Ebene. Um eine Person gut zu leiten, musste es die Situation und wahrscheinlichen Bedürfnisse dieser Person aus Daten ableiten, was eine überwachte Vorhersage ist, die auf Lebensumstände angewendet wird. Die angesammelten Kritiken entsprechen genau den bekannten Fehlerursachen der Methode (The Mandarin, 2023). Erstens, Autonomie: Ein System, das die Ziele einer Person ableitet und sie auf KI-bestimmte Dienstleistungspfade lenkt, ersetzt eine modellierte Präferenz durch eine explizit geäußerte. Zweitens, Verzerrung und Drift: Aus historischen Daten abgeleitete Schlussfolgerungen riskieren, die in diesen Daten kodierten sozialen Muster zu reproduzieren. Drittens, und in der Praxis entscheidend, Datenaggregation: Das Zusammenfügen eines kohärenten Bildes einer Person aus fragmentierten kommunalen, nationalen, privaten und gemeinschaftlichen Quellen stieß genau auf die rechtlichen Barrieren, die das europäische Datenschutzrecht und das finnische Verwaltungsrecht gegen eine uneingeschränkte Verknüpfung errichten.

Die Jugenddimension ist nicht nebensächlich. Im Jahr 2022 wurde AuroraAI in Zekki, einer Selbstbewertungs- und Dienstleistungsplattform für junge Menschen, pilotiert, und das berichtete Ergebnis war vielsagend: Die Empfehlungen waren „nützlich, aber generisch“ statt wirklich personalisiert. Aus CSS-Sicht ist dies das Merkmal des Kaltstart- und Sparsitätsproblems – für eine junge Person existiert die informative, longitudinale Spur entweder noch nicht oder ist rechtlich abgeschottet, sodass das Modell auf Bevölkerungsdurchschnitte zurückgreift. Das datenschutzrechtlich schützende Umfeld und die technischen Grenzen wiesen daher in dieselbe Richtung. AuroraAI wurde leise eingestellt, und die Wartung der Kernkomponenten des Netzwerks endete am 31. Dezember 2023 (Agentur für digitale und Bevölkerungsdaten, 2023).

Die lehrreiche Lesart ist nicht, dass das Projekt technisch gescheitert ist. Vielmehr stieß ein individueller Profiling-Ansatz bei der Entscheidungsfindung von Jugendlichen gleichzeitig mit zwei unabhängigen Einschränkungen zusammen: einer Datenschutzordnung, die der Verknüpfung, die ein solches Profiling erfordert, widersteht, und der Entwicklungsrealität, dass junge Menschen genau die Gruppe sind, für die eine genaue individuelle Vorhersage am schwierigsten und ethisch heikelsten ist. Wenn das Profil dünn ist, erbringt das System entweder eine unterdurchschnittliche Leistung (generische Beratung) oder überschreitet seine Grenzen (leitet ab, was es nicht wissen kann). Beide Ergebnisse sind in den finnischen Aufzeichnungen sichtbar.

6. Automatisierte Entscheidungsfindung und die Due-Process-Prüfung

Wenn AuroraAI die Grenzen der Empfehlung aufzeigt, zeigen die Fälle automatisierter Entscheidungsfindung, was passiert, wenn Vorhersage mit einem bindenden Ergebnis verschmolzen wird. Hier bietet Finnland etwas Seltenes: eine öffentliche, quasi-richterliche Prüfung staatlicher Algorithmen, die von einer Verfassungsinstitution durchgeführt wird.

Im November 2019 befand der stellvertretende Parlamentarische Bürgerbeauftragte die automatisierte Entscheidungsfindung der Steuerverwaltung als rechtswidrig, aus drei Gründen, die wie eine Due-Process-Checkliste für ADM anmuten (AlgorithmWatch, 2020). Der erste Grund war die Rechtsgrundlage: Die Automatisierung basierte auf allgemeiner Gesetzgebung, die niemals explizit die algorithmische Entscheidungsfindung genehmigte, und das Fehlen eines definierten, überprüfbaren Verfahrens vereitelte die öffentliche Kontrolle. Der zweite Grund war die Rechenschaftspflicht: Die Verantwortung war abstrakten „Prozesseignern“ zugewiesen worden, anstatt identifizierbaren Beamten, was dem finnischen verfassungs- und strafrechtlichen Erfordernis widersprach, dass eine namentlich genannte Person für einen Verwaltungsakt verantwortlich ist. Der dritte Grund war gute Regierungsführung: Die Bürger wurden nicht darüber informiert, wann eine Entscheidung automatisiert wurde, und konnten die Grundlage der Entscheidung nicht erhalten. Parallel dazu eröffnete der Justizkanzler eine Untersuchung gegen die Sozialversicherungsanstalt Kela, die jährlich Leistungen in Höhe von etwa 15,5 Milliarden Euro auszahlt, wegen der Undurchsichtigkeit, welche ihrer Entscheidungen automatisiert wurden. Der Einwanderungsdienst Migri stieß auf Einwände des Verfassungsrechtsausschusses des Parlaments, als er versuchte, die Bearbeitung von Genehmigungen zu automatisieren.

Die CSS-Lehre ist, dass dies nicht primär Beschwerden über die Modellgenauigkeit sind. Es sind Beschwerden über das Zusammenbrechen der Unterscheidung zwischen Vorhersage und Entscheidung ohne einen entsprechenden rechtlichen und prozeduralen Apparat. Ein genaues Modell, das an einen nicht rechenschaftspflichtigen Prozess gekoppelt ist, ist immer noch rechtswidrig. Finnlands Antwort war legislativ und nicht nur kritisch: Eine allgemeine Gesetzgebung zur automatisierten Entscheidungsfindung in der öffentlichen Verwaltung trat zusammen mit Änderungen des Verwaltungsverfahrensgesetzes im Jahr 2023 in Kraft und schuf eine explizite Rechtsgrundlage für ADM zusammen mit Schutzvorkehrungen für Dokumentation, Transparenz und Rechenschaftspflicht (Finnische Regierung, 2023).

Für junge Menschen ist die Bedeutung konkret. Die Entscheidungen, die am ehesten in großem Umfang automatisiert werden – Studienbeihilfen, Wohnungsbeihilfen, Arbeitslosigkeits- und Aktivierungsmaßnahmen – betreffen stark Menschen am Beginn des Erwachsenenlebens, die am wenigsten gerüstet sind, ein fehlerhaftes automatisiertes Ergebnis zu erkennen und anzufechten. Ein Recht zu wissen, dass eine Entscheidung automatisiert wurde und deren Grundlage zu erhalten, ist in der Praxis ein Recht, das junge Menschen überproportional schützt, weil sie genau in den Entscheidungsströmen mit hohem Volumen und geringem Ermessensspielraum, die die Automatisierung zuerst ins Visier nimmt, überrepräsentiert sind.

7. Das menschenzentrierte Gegenmodell: MyData und Findata

Finnland lieferte nicht nur eine warnende Geschichte. Es lieferte auch zwei der kohärenteren institutionellen Antworten auf das Dilemma von Datenschutz versus Nutzen, und beide sind analytisch wichtig, weil sie ändern, wo Kontrolle und Berechnung angesiedelt sind.

MyData ist ein Modell für ein menschenzentriertes Management personenbezogener Daten, das in Finnland entstand, in einem Whitepaper von Poikola, Kuikkaniemi und Honko aus dem Jahr 2015 formuliert und anschließend von MyData Global, einer in Helsinki ansässigen Organisation, durch ihre Prinzipienerklärung weitergetragen wurde (Forschungsportal der Universität Helsinki; MyData-Erklärung). Sein Kernanspruch ist, dass Individuen eine handlungsfähige Kontrolle über Daten über sie haben sollten, einschließlich Zugangsrechten, Portabilität und der Fähigkeit, Datenflüsse an Dritte zu autorisieren. In CSS-Begriffen versucht MyData, den Zeitpunkt der Einwilligung von einem einmaligen Kontrollkästchen zu einer fortlaufenden, widerruflichen, maschinenlesbaren Genehmigung zu verlagern, was eine direkte Antwort auf das gut dokumentierte Scheitern von Notice-and-Consent in großem Umfang ist.

Findata, die finnische Genehmigungsbehörde für Sozial- und Gesundheitsdaten, die 2020 unter dem Gesetz über die sekundäre Nutzung von Gesundheits- und Sozialdaten (in Kraft seit 2019) gegründet wurde, befasst sich mit der anderen Hälfte des Problems: wie computergestützte Forschung und Entwicklung mit sensiblen Daten ermöglicht werden kann, ohne identifizierte Personen preiszugeben (Findata). Der Mechanismus ist ein genehmigungsbasiertes System, in dem verknüpfte Gesundheits- und Sozialdaten pseudonymisiert und innerhalb einer sicheren Verarbeitungsumgebung analysiert werden, sodass Forscher statistische Ergebnisse statt roher Identitäten erhalten. Dies ist im Grunde die Institutionalisierung datenschutzfreundlicher Berechnungen: Sie ermöglicht der Gesellschaft, über die Gesundheits- und Sozialergebnisse ihrer jungen Bevölkerung auf aggregierter, modellbildender Ebene zu argumentieren, während sie Analysten strukturell die individuelle Re-Identifikation verwehrt, die das individuelle Profiling erfordert.

Nebeneinander betrachtet bilden MyData, Findata und SISU eine kohärente Alternative zum AuroraAI-Paradigma. Wo AuroraAI versuchte, über das identifizierte Individuum zu rechnen, um dessen Entscheidungen zu steuern, rechnet diese zweite Familie entweder mit der widerruflichen Genehmigung des Individuums (MyData) oder über eine geschützte, de-identifizierte Bevölkerung (Findata, SISU), um kollektive Entscheidungen zu informieren. Der Datenschutzunterschied ist nicht einer des Grades, sondern der Architektur. Es ist der Unterschied zwischen bewahrter kontextueller Integrität und verletzter kontextueller Integrität im Sinne Nissenbaums: Daten, die für die Pflege oder Verwaltung gesammelt wurden und unter kontrollierten und lesbaren Normen statistisch genutzt werden, versus Daten, die in einem Kontext gesammelt wurden und in einem anderen zur Profilierung und Beeinflussung umgenutzt werden.

8. Jugendspezifische Dynamiken: Einwilligung, der Privacy Calculus und vernetzte Autonomie

Warum sollte man junge Menschen als eigenständigen Fall behandeln und nicht als gewöhnliche betroffene Personen? Drei Erkenntnisse aus der Verhaltens- und Computational-Literatur rechtfertigen dies.

Erstens ist das sogenannte Datenschutzparadoxon bei jungen Nutzern am stärksten ausgeprägt: Eine geäußerte Datenschutzbedenken sagt das Offenlegungsverhalten nur schwach voraus, da die Offenlegung durch unmittelbare soziale Belohnung unter Bedingungen begrenzter Rationalität (der Privacy Calculus) getrieben wird. Ein auf Jugendverhalten trainiertes Modell lernt daher aus Entscheidungen, die unter systematisch verzerrten Anreizen getroffen wurden, und die Behandlung dieser Entscheidungen als offenbarte, autonome Präferenzen wandelt eine strukturelle Bedingung in ein individuelles Signal um.

Zweitens ist der Datenschutz für junge Menschen vernetzt, nicht individuell (danah boyd). Die Daten eines Teenagers werden von Gleichaltrigen, Eltern, Schulen und Plattformen mitproduziert, sodass die individuelle Einwilligung sie im Prinzip nicht schützen kann; die relevante Einheit ist das Netzwerk, nicht die Person. Dies ist genau die Eigenschaft, die Profiling machbar macht – die fehlenden Daten über eine junge Person können aus ihren verbundenen anderen abgeleitet werden – und genau die Eigenschaft, die Instrumente individueller Rechte nicht erfassen. Finnlands Sozialregister sind eine formale Version dieses vernetzten Substrats, weshalb die rechtliche Frage immer wieder auf die Verknüpfung und Rechtsgrundlage zurückkam, anstatt auf eine einzelne Einwilligung.

Drittens ist die Entwicklungsautonomie ein bewegliches Ziel. Junge Menschen sind von Natur aus dabei, anders zu werden als ihr früheres Ich. Ein System, das eine junge Person anhand ihrer historischen Spuren vorhersagt und dann auf dieser Vorhersage basiert, riskiert, eine Identität einzufrieren, die die Person zu überwinden berechtigt ist – eine Besorgnis, die sich mit dem europäischen Recht auf Löschung deckt, aber darüber hinausgeht. Die AuroraAI-Intuition, die Ziele einer Person abzuleiten, ist gerade für diejenigen am problematischsten, deren Ziele noch nicht feststehen.

Diese drei Erkenntnisse münden in eine einzige methodologische Warnung. Für Erwachsene kann man zumindest argumentieren, dass Verhaltensdaten etablierte Präferenzen unter normalen Anreizen widerspiegeln. Für junge Menschen spiegeln die Daten Präferenzen wider, die unbeständig, sozial mitproduziert und unter Belohnungsstrukturen gebildet werden, die von den Plattformen optimiert werden, die die Messung vornehmen. Die Schlussfolgerungsbasis ist daher genau dort am schwächsten, wo die interventionistische Versuchung am stärksten ist.

9. Was Computational Social Science sehen kann und was nicht

Eine ehrliche Analyse muss sich selbst betrachten, denn CSS ist kein neutraler Beobachter dieses Systems; es ist eines seiner Instrumente.

CSS ist stark in Beschreibung und Vorhersage. Sie kann anhand von Register- und Spurendaten zeigen, wie die Ergebnisse junger Menschen gruppiert sind, wie die Dienstnutzung durch eine Bevölkerung fließt und wie eine Leistungsreform Einkommen umverteilen würde (der SISU-Anwendungsfall). Dies sind legitime und wertvolle Anwendungen, und bemerkenswerterweise sind es die Anwendungen, die unter Findata-ähnlichem Schutz ohne individuelles Profiling durchgeführt werden können.

CSS ist schwach und gefährlich, wenn prädiktive Genauigkeit mit kausalem Verständnis oder mit einem Mandat zum Handeln gegenüber Individuen verwechselt wird. Ein Modell, das Jugendentfremdung mit hoher Genauigkeit vorhersagt, erklärt diese immer noch nicht, und dessen Einsatz zur gezielten Ansprache von Individuen wandelt ein deskriptives Instrument in eine Entscheidung um, die den Due-Process-Apparat erfordert, auf den der finnische Bürgerbeauftragte bestand. Die methodologische Unterscheidung zwischen Vorhersage und Kausalität ist hier keine akademische Hygiene; sie ist die Grenze zwischen Analyse und nicht rechenschaftspflichtiger Governance.

Es gibt auch einen reflexiven Datenschutzpreis, der spezifisch für die Messung ist. Um Datenschutzverhalten computergestützt zu untersuchen, muss man Verhaltensdaten sammeln, sodass die Forschung selbst innerhalb des Phänomens angesiedelt ist, das sie untersucht. Finnlands Antwort – genehmigungsgesteuerte, pseudonymisierte Analyse in sicheren Umgebungen – ist ebenso ein Modell für verantwortungsvolle CSS wie für verantwortungsvolle Verwaltung. Dieselbe Architektur, die den Bürger vor dem Profiling des Staates schützt, schützt das Forschungssubjekt vor dem des Forschers.

Schließlich sollte CSS offen über die Repräsentativität sein. Registerdaten erfassen die Bevölkerung in Kontakt mit Institutionen, was die sichtbaren und regierten Personen überrepräsentiert. Der Aufbau von Jugendmodellen auf dieser Basis birgt das Risiko von Eubanks’ Rückkopplungsschleife: Die jungen Menschen, die das System am klarsten sehen kann, werden die jungen Menschen, die es am stärksten prüft, und die daraus resultierenden Daten bestätigen den ursprünglichen Fokus. Keine Modellkomplexität korrigiert einen Stichprobenrahmen, der selbst ein Produkt ungleicher institutioneller Aufmerksamkeit ist.

10. Fazit

Durch die Methoden der Computational Social Science analysiert, löst sich das Datenschutz-KI-Entscheidungsfindungsproblem für junge Generationen in eine einzige Unterscheidung mit weitreichenden Konsequenzen auf: die Berechnung über das identifizierte Individuum, um dieses Individuum zu steuern, versus die Berechnung mit widerruflicher Genehmigung oder über eine geschützte Bevölkerung, um kollektive Entscheidungen zu informieren. Finnland führte beide Experimente öffentlich durch. Das erste, AuroraAI, stieß an die Grenzen des Profilings einer Bevölkerung, deren Daten dünn, vernetzt und rechtlich geschützt sind, und wurde eingestellt. Das zweite – das Beharren des Bürgerbeauftragten auf Rechtsgrundlage und Rechenschaftspflicht, die Gesetzgebung zur automatisierten Entscheidungsfindung von 2023 sowie die MyData- und Findata-Architekturen – zeigt, wie es aussieht, die analytische Kraft der Berechnung zu bewahren, ihr aber die individuelle Re-Identifikation und die unkontrollierbare Entscheidungsfindung zu verwehren, die sie gefährlich machen.

Die Lehre ist nicht, dass junge Menschen von datafizierten Diensten ausgeschlossen werden sollten, was weder möglich noch wünschenswert ist, sondern dass die Methode den Einsätzen entsprechen muss. Simulation und de-identifizierte Analyse können und sollten die Regeln beeinflussen, die die Entscheidungen einer Generation prägen. Individuelles Profiling und automatisierte Entscheidungsfindung müssen, wo sie junge Menschen betreffen, das volle Gewicht von Transparenz, Anfechtbarkeit und namentlicher Rechenschaftspflicht tragen, weil junge Menschen die Bevölkerungsgruppe sind, die am wenigsten in der Lage ist, einen Fehler zu erkennen, und am meisten berechtigt ist, jemand zu werden, den ihre früheren Daten nicht vorhergesagt haben. Computational Social Science liefert sowohl die Werkzeuge, die diese Spannung erzeugen, als auch die Disziplin, die nötig ist, um sie zu halten. Finnlands Jahrzehnt des Versuchs ist das Nächstbeste, was wir an einem kontrollierten Test haben, ob eine Gesellschaft das erste haben kann, ohne dem zweiten zu erliegen.

Quellen

Hinweis: Die im Text referenzierten analytischen Rahmungen stützen sich auf etablierte Wissenschaft in den computergestützten Sozialwissenschaften und der Datenethik – darunter Lazer und Kollegen zu Computational Social Science, Salganiks Bit by Bit, Kleinberg und Kollegen zu Vorhersage-Politikproblemen, Nissenbaums kontextuelle Integrität, danah boyd zu vernetztem Datenschutz, Sonia Livingstone zu Kinderdatenrechten und Virginia Eubanks’ Automating Inequality. Diese werden auf Konzept- und Autorenebene zitiert; Leser sollten die Primärwerke für exakte Formulierungen konsultieren.

Dies ist ein analytischer Essay zur Diskussion; es handelt sich nicht um eine Rechtsberatung.

Lesen Sie auch