Salta al contenuto
PL Consulting
IT DE
Mit einem Berater sprechen

← Alle News

News Intelligenza artificiale

Datafizierte Jugend, automatisierte Entscheidung: Privatheit, KI und die Entscheidungsfindung junger Generationen im Licht der Computational Social Science – der finnische Fall

Datafizierte Jugend, automatisierte Entscheidung: Privatheit, KI und die Entscheidungsfindung junger Generationen im Licht der Computational Social Science – der finnische Fall

Von Giorgia Lazzarotto

1. Das analytische Problem

Das Verhältnis von Privatheit, künstlicher Intelligenz und Entscheidungsfindung wird gewöhnlich als eine Frage des Rechts oder der Ethik verhandelt. Dieser Artikel nähert sich ihm als einem Messproblem und bedient sich dabei des Instrumentariums der Computational Social Science (CSS). CSS ist die Untersuchung sozialen Verhaltens mittels umfangreicher digitaler Daten, maschinellen Lernens, Simulation und Netzwerkanalyse. Ihr Gründungsprogramm (Lazer und Kollegen, 2009, aktualisiert 2020) argumentierte, dass digitale Spuren es erlauben, das soziale Leben in einer zuvor unmöglichen Granularität zu beobachten. Genau dieselbe Granularität ist es, die zeitgenössische Entscheidungssysteme überhaupt möglich macht, und es ist der Punkt, an dem Privatheit gewonnen oder verloren wird.

Drei Verschiebungen machen die jungen Generationen zu einem eigenständigen Fall und nicht bloß zu einer verkleinerten Version des Erwachsenenfalls. Erstens erzeugen Menschen, die etwa nach dem Jahr 2000 geboren wurden, von früher Kindheit an eine nahezu kontinuierliche Verhaltensaufzeichnung, sodass die Trainingsdaten, die sie später steuern werden, bereits existieren, bevor sie ihnen in sinnvoller Weise zustimmen können. Zweitens werden viele Entscheidungen, die früher dem Ermessen und dem Menschen überlassen waren – welche Sozialleistung zu empfehlen ist, welcher Antragsteller bevorzugt zu bearbeiten ist, welcher Schüler als gefährdet zu kennzeichnen ist -, zunehmend an statistische Modelle delegiert. Drittens sind die Jungen jene Bevölkerungsgruppe, in die der Staat aus entwicklungs- und schutzbezogenen Gründen am aktivsten eingreift, was bedeutet, dass ihre Daten nicht nur reichlich vorhanden sind, sondern auch institutionell zum Gegenstand von Handlungen werden.

Finnland ist ein ungewöhnlich klarer Untersuchungsort hierfür. Es verbindet einen umfassenden, registergestützten Wohlfahrtsstaat (sodass die Daten existieren und verknüpfbar sind), hohes öffentliches Vertrauen und hohe digitale Durchdringung sowie eine ungewöhnlich starke Tradition juristischer Kontrolle über die Automatisierung der Verwaltung. Das Ergebnis ist ein natürliches Experiment: eine Gesellschaft, die eine ehrgeizige Infrastruktur für KI im Staat aufbaute und sie dann unter voller öffentlicher Beobachtung an ihren eigenen verfassungs- und datenschutzrechtlichen Verpflichtungen prüfte. Das finnische Protokoll von etwa 2018 bis 2024 liefert uns konkrete Fälle zur Analyse statt bloßer Hypothesen.

2. Ein Instrumentarium der Computational Social Science

Um Privatheit, KI und die Entscheidungsfindung Jugendlicher rigoros zu analysieren, ist es hilfreich, sich über die beteiligten Methoden klar zu werden, denn jede Methode trägt ihre eigene Privatheits-Signatur.

Digitale Spuren- und Verhaltensdaten. Der Rohstoff der CSS ist das Abfallprodukt des gewöhnlichen Lebens: Verwaltungsregister, Nutzungsprotokolle von Diensten, Sensor- und App-Daten. Matthew Salganiks Rahmung (Bit by Bit, 2018) ist hier nützlich – Spurendaten sind umfangreich, stets aktiv und nicht-reaktiv, aber auch unvollständig, nicht-repräsentativ und driftend. Für junge Menschen ist die Spur dichter und länger als für jede frühere Kohorte, was die Vorhersage verbessert und zugleich das Risiko der Re-Identifikation erhöht.

Überwachte Vorhersage und Profilbildung. Die meiste “KI” in öffentlichen Diensten ist überwachtes maschinelles Lernen: Ein Modell erlernt die statistische Beziehung zwischen Merkmalen und einem Ergebnis und bewertet dann neue Individuen. Kleinberg und Kollegen (prediction policy problems, 2015) zeigten, warum Regierungen dies attraktiv finden – viele politische Aufgaben sind im Kern Vorhersageaufgaben. Das Privatheitsproblem besteht darin, dass genaue Vorhersage die Datenmaximierung belohnt, was in unmittelbarem Spannungsverhältnis zur Datenminimierung steht, dem Kernprinzip des europäischen Datenschutzrechts.

Automatisierte Entscheidungsfindung (ADM). Wenn eine Vorhersage ohne menschliche Entscheidung unmittelbar an ein Verwaltungsergebnis gekoppelt wird, wird aus Vorhersage Entscheidung. Hier trifft CSS auf das Gebot des fairen Verfahrens (due process), und hier sind Finnlands Fälle am schärfsten.

Mikrosimulation und agentenbasierte Modellierung. Nicht alle rechnergestützten Methoden erstellen Profile von Individuen. Mikrosimulationsmodelle wie Finnlands SISU simulieren, wie sich eine Änderung des Steuer- und Sozialleistungsrechts auf eine repräsentative Bevölkerung auswirken würde, und nutzen dabei Register-Mikrodaten, um Verteilungswirkungen abzuschätzen, bevor eine Maßnahme erlassen wird (Statistics Finland, SISU). Dies ist eine entscheidungsunterstützende Nutzung von Rechenverfahren, die auf Privatheitswahrung angelegt ist: Sie schlussfolgert über eine synthetische oder geschützte Bevölkerung, nicht über einen identifizierten Bürger. Der Kontrast zwischen der Simulation im Stil von SISU und der individuellen Profilbildung im Stil von AuroraAI ist eine der zentralen Unterscheidungen, die dieser Artikel herausarbeitet.

Kausale Inferenz versus Vorhersage. Ein wiederkehrender Fehler in der angewandten CSS besteht darin, eine prädiktive Korrelation so zu behandeln, als wäre sie eine handlungsleitende Ursache. Ein Modell, das vorhersagt, welcher junge Mensch die Ausbildung abbrechen wird, ist kein Modell dafür, warum er sie abbricht, und ein Eingriff bei der vorhergesagten Person kann zugleich wirkungslos und stigmatisierend sein. Diese Unterscheidung ist für die Jugendpolitik bedeutsam, wo die Versuchung, aufgrund eines Risikowerts frühzeitig zu handeln, am größten ist.

Algorithmus-Audit und Rechenschaft. Schließlich umfasst CSS auch die Untersuchung von Algorithmen als Gegenständen der Governance: das Prüfen von Modellen auf Verzerrungen, das Einfordern von Transparenz und das Testen der Modelle an rechtlichen Normen. Im finnischen Fall ist der Prüfer kein Forschungsteam, sondern eine Verfassungsinstitution, der parlamentarische Ombudsmann, was uns ein seltenes öffentliches Audit staatlicher ADM liefert.

Jede dieser Methoden impliziert ein anderes Privatheitsmodell: differentielle Privatheit und Pseudonymisierung für geschützte Berechnungen, kontextuelle Integrität (Helen Nissenbaum), um zu beurteilen, wann ein Datenfluss angemessen ist, und vernetzte Privatheit (danah boyd), um zu verstehen, warum individuelle Einwilligung in vernetzten Bevölkerungen ein schwaches Instrument ist. Auf diese komme ich weiter unten zurück.

3. Die Datafizierung der Entscheidungen junger Menschen

Bevor wir uns Finnland zuwenden, lohnt es sich, genau zu benennen, was hier entschieden wird und von wem. Die Entscheidungen junger Menschen werden auf drei Ebenen datafiziert.

Auf der individuellen Ebene prägen Empfehlungs- und Bewertungssysteme die Auswahlmenge, die ein junger Mensch zu sehen bekommt: welcher Kurs, welche Leistung, welcher Dienst, welche Möglichkeit sichtbar gemacht oder verborgen wird. Sonia Livingstones Arbeit zu den Datenrechten von Kindern macht deutlich, dass dies nicht nur eine Frage der Privatheit ist, sondern eine Frage der Handlungsmacht, denn die Architektur der Auswahl wird der Auswahl selbst vorgelagert festgelegt.

Auf der institutionellen Ebene nutzen Behörden prädiktive Modelle, um knappe Aufmerksamkeit zuzuteilen: wen zu kontaktieren, wen zu priorisieren, wen zu kennzeichnen ist. Virginia Eubanks (Automating Inequality, 2018) dokumentierte, wie solche Systeme, selbst wenn sie gut gemeint sind, dazu neigen, die Kontrolle auf die ohnehin schon sichtbaren Armen zu konzentrieren, weil sie die Bevölkerungsgruppe sind, deren Daten der Staat am vollständigsten besitzt. Junge Menschen, die mit Wohlfahrts-, Gesundheits- oder Kinderschutzsystemen in Kontakt stehen, sind genau eine solche Bevölkerungsgruppe hoher Sichtbarkeit.

Auf der gesellschaftlichen Ebene fließen Simulation und Prognose in die Gestaltung der Regeln selbst ein – die Steuertarife, Leistungsabschmelzungen und Anspruchsschwellen, die die wirtschaftlichen Entscheidungen einer Generation strukturieren. Dies ist das Feld von SISU.

Die Privatheits-Einsätze unterscheiden sich auf jeder Ebene. Individuelle Bewertung birgt das Risiko der Profilbildung und der sich selbst erfüllenden Klassifikation. Institutionelle Zuteilung birgt das Risiko von Rückkopplungsschleifen und ungleicher Exposition. Gesellschaftliche Simulation ist, gut gemacht, vergleichsweise harmlos, weil sie kein Handeln an einer identifizierten Person erfordert. Eine ernsthafte Analyse kann daher nicht im Singular von “KI und Privatheit” sprechen; sie muss fragen, welche rechnergestützte Methode welche Arbeit verrichtet.

4. Finnland als natürliches Labor

Finnland ist ein maximal datafizierter Wohlfahrtsstaat. Seine Verwaltung läuft über verknüpfbare Personenregister, und die automatisierte Verarbeitung ist keine Zukunftsaussicht, sondern eine etablierte Realität: Der stellvertretende parlamentarische Ombudsmann stellte 2019 fest, dass mehr als 80 Prozent der Entscheidungen der Steuerverwaltung vollständig automatisiert waren (AlgorithmWatch, Automating Society Finland, 2020). Zugleich verfolgte Finnland eine ausdrückliche Strategie, KI zu einer bürgerlichen und nicht zu einer elitären Kompetenz zu machen, durch den kostenlosen Kurs Elements of AI, der 2018 von der Universität Helsinki und Reaktor ins Leben gerufen wurde und dessen erklärtes Ziel es war, einem Prozent der Bevölkerung die Grundlagen der KI zu vermitteln, und der später EU-weit angeboten wurde.

Was Finnland analytisch wertvoll macht, ist, dass dieser Ehrgeiz auf Widerstand aus der eigenen Rechtsordnung des Staates stieß. Dasselbe Land, das die meisten Steuerentscheidungen automatisierte, brachte auch die klarsten öffentlichen Feststellungen hervor, dass einer solchen Automatisierung eine angemessene Rechtsgrundlage fehlte. Diese innere Spannung, und nicht ein einzelnes Projekt, ist der eigentliche Untersuchungsgegenstand.

5. AuroraAI: Vorhersage, Profilbildung und der digitale Zwilling der Jugend

Der klarste Ausdruck des Paradigmas der individuellen Bewertung war AuroraAI, Finnlands nationales KI-Programm für menschenzentrierte öffentliche Dienste, das 2020 als nationales Programm gestartet und vom Finanzministerium koordiniert wurde (Finnish Government, 2020). Seine belebende Idee war das “Lebensereignis”: In Momenten wie dem Schulabgang, der Geburt eines Kindes oder der Genesung von einer Verletzung würde AuroraAI eine Person mit relevanten Diensten über staatliche, private und gemeinschaftliche Anbieter hinweg verbinden und dabei KI nutzen, um das Individuum zur richtigen Hilfe zu leiten.

Durch das Instrumentarium der CSS gelesen, war AuroraAI ein Empfehlungs- und Profilbildungssystem auf individueller Ebene. Um eine Person gut zu leiten, musste es die Situation und die wahrscheinlichen Bedürfnisse dieser Person aus Daten erschließen, was überwachte Vorhersage angewandt auf Lebensumstände ist. Die Kritikpunkte, die sich ansammelten, decken sich präzise mit den bekannten Fehlermodi der Methode (The Mandarin, 2023). Erstens die Autonomie: Ein System, das die Ziele einer Person erschließt und sie zu KI-bestimmten Dienstpfaden lenkt, ersetzt eine geäußerte Präferenz durch eine modellierte. Zweitens Verzerrung und Drift: Auf historischen Daten trainierte Schlussfolgerungen riskieren, die in diesen Daten kodierten sozialen Muster zu reproduzieren. Drittens, und in der Praxis entscheidend, die Datenaggregation: Ein kohärentes Bild einer Person aus fragmentierten kommunalen, nationalen, privaten und gemeinschaftlichen Quellen zusammenzusetzen, stieß auf genau jene rechtlichen Schranken, die das europäische Datenschutz- und das finnische Verwaltungsrecht gegen eine ungebremste Verknüpfung errichten.

Die Jugenddimension ist nicht nebensächlich. 2022 wurde AuroraAI in Zekki pilotiert, einer Selbsteinschätzungs- und Serviceplattform für junge Menschen, und das berichtete Ergebnis war bezeichnend: Die Empfehlungen waren “nützlich, aber generisch” statt wirklich personalisiert. Aus Sicht der CSS ist dies die Signatur des Kaltstart- und Sparsamkeitsproblems (cold-start and sparsity) – für einen jungen Menschen existiert die aussagekräftige, längsschnittliche Spur entweder noch nicht oder ist rechtlich abgeschottet, sodass das Modell auf Bevölkerungsdurchschnitte zurückfällt. Das privatheitsschützende Rechtsumfeld und die technischen Grenzen wiesen daher in dieselbe Richtung. AuroraAI wurde stillschweigend heruntergefahren, und die Wartung der Kernkomponenten des Netzwerks endete am 31. Dezember 2023 (Digital and Population Data Services Agency, 2023).

Die lehrreiche Lesart ist nicht, dass das Projekt technisch gescheitert sei. Sie ist, dass ein individueller Profilbildungsansatz für die Entscheidungsfindung Jugendlicher zugleich mit zwei unabhängigen Zwängen kollidierte: einer Datenschutzordnung, die die für eine solche Profilbildung nötige Verknüpfung ablehnt, und der entwicklungsbezogenen Realität, dass die Jungen gerade jene Gruppe sind, für die eine genaue individuelle Vorhersage am schwierigsten und ethisch am heikelsten ist. Wenn das Profil dünn ist, unterbietet das System entweder die Erwartungen (generische Ratschläge) oder überschreitet seine Grenzen (indem es erschließt, was es nicht wissen kann). Beide Ergebnisse sind im finnischen Protokoll sichtbar.

6. Automatisierte Entscheidungsfindung und das Audit des fairen Verfahrens

Wenn AuroraAI die Grenzen der Empfehlung aufzeigt, so zeigen die Fälle automatisierter Entscheidungsfindung, was geschieht, wenn Vorhersage mit einem bindenden Ergebnis verschmolzen wird. Hier bietet Finnland etwas Seltenes: ein öffentliches, quasi-justizielles Audit staatlicher Algorithmen, durchgeführt von einer Verfassungsinstitution.

Im November 2019 befand der stellvertretende parlamentarische Ombudsmann die automatisierte Entscheidungsfindung der Steuerverwaltung für rechtswidrig, und zwar aus drei Gründen, die sich wie eine Prüfliste des fairen Verfahrens für ADM lesen (AlgorithmWatch, 2020). Der erste war die Rechtsgrundlage: Die Automatisierung stützte sich auf allgemeine Gesetzgebung, die niemals ausdrücklich das Entscheiden per Algorithmus autorisierte, und das Fehlen eines definierten, überprüfbaren Verfahrens vereitelte die öffentliche Kontrolle. Der zweite war die Rechenschaft: Die Verantwortung war abstrakten “Prozesseignern” statt identifizierbaren Amtsträgern zugewiesen worden, was mit dem finnischen verfassungs- und strafrechtlichen Erfordernis kollidierte, dass eine namentlich benannte Person für einen Verwaltungsakt einzustehen hat. Der dritte war die gute Verwaltung: Den Bürgern wurde nicht mitgeteilt, wenn eine Entscheidung automatisiert war, und sie konnten die Grundlage der Entscheidung nicht erlangen. Parallel dazu leitete der Justizkanzler eine Untersuchung gegen die Sozialversicherungsanstalt Kela ein, die jährlich Leistungen in Höhe von rund 15,5 Milliarden Euro abwickelt, wegen der Undurchsichtigkeit dessen, welche ihrer Entscheidungen automatisiert waren. Die Einwanderungsbehörde Migri stieß auf Einwände des Verfassungsrechtsausschusses des Parlaments, als sie die Bearbeitung von Aufenthaltstiteln automatisieren wollte.

Die CSS-Lehre ist, dass es sich hierbei nicht in erster Linie um Beschwerden über die Modellgenauigkeit handelt. Es sind Beschwerden über den Zusammenbruch der Unterscheidung zwischen Vorhersage und Entscheidung ohne ein entsprechendes rechtliches und verfahrensmäßiges Instrumentarium. Ein genaues Modell, das an einen nicht rechenschaftspflichtigen Prozess gekoppelt ist, ist gleichwohl rechtswidrig. Finnlands Antwort war gesetzgeberisch und nicht bloß kritisch: Allgemeine Rechtsvorschriften zur automatisierten Entscheidungsfindung in der öffentlichen Verwaltung traten zusammen mit Änderungen des Verwaltungsverfahrensgesetzes 2023 in Kraft und schufen eine ausdrückliche Rechtsgrundlage für ADM samt Sicherungen hinsichtlich Dokumentation, Transparenz und Rechenschaft (Finnish Government, 2023).

Für junge Menschen ist die Bedeutung konkret. Die Entscheidungen, die am ehesten in großem Maßstab automatisiert werden – Studienbeihilfen, Wohngeld, Arbeitslosen- und Aktivierungsmaßnahmen -, treffen stark die Menschen am Beginn des Erwachsenenlebens, die am wenigsten in der Lage sind, ein fehlerhaftes automatisiertes Ergebnis zu erkennen und anzufechten. Ein Recht darauf, zu erfahren, dass eine Entscheidung automatisiert war, und deren Grundlage zu erhalten, ist in der Praxis ein Recht, das die Jungen überproportional schützt, denn sie sind in genau jenen Entscheidungsströmen hohen Volumens und geringen Ermessens überrepräsentiert, auf die die Automatisierung zuerst abzielt.

7. Das menschenzentrierte Gegenmodell: MyData und Findata

Finnland brachte nicht nur eine mahnende Geschichte hervor. Es brachte auch zwei der kohärenteren institutionellen Antworten auf das Dilemma von Privatheit versus Nutzen hervor, und beide sind analytisch bedeutsam, weil sie verändern, wo Kontrolle und Berechnung angesiedelt sind.

MyData ist ein Modell menschenzentrierter Verwaltung persönlicher Daten, das seinen Ursprung in Finnland hat, in einem White Paper von 2015 von Poikola, Kuikkaniemi und Honko ausformuliert und anschließend von MyData Global, einer in Helsinki ansässigen Organisation, durch dessen Grundsatzerklärung weitergetragen wurde (University of Helsinki research portal; MyData Declaration). Seine Kernaussage ist, dass Individuen handlungswirksame Kontrolle über die Daten über sie besitzen sollten, einschließlich der Rechte auf Zugang, Übertragbarkeit und der Möglichkeit, Datenflüsse an Dritte zu autorisieren. In CSS-Begriffen versucht MyData, den Punkt der Einwilligung von einem einmaligen Häkchen zu einer fortlaufenden, widerrufbaren, maschinenlesbaren Erlaubnis zu verlagern, was eine unmittelbare Antwort auf das gut dokumentierte Versagen von Hinweis und Einwilligung (notice-and-consent) im großen Maßstab ist.

Findata, die 2020 unter dem Gesetz über die Sekundärnutzung von Gesundheits- und Sozialdaten (in Kraft seit 2019) errichtete finnische Genehmigungsbehörde für Gesundheits- und Sozialdaten, widmet sich der anderen Hälfte des Problems: wie man rechnergestützte Forschung und Entwicklung an sensiblen Daten ermöglicht, ohne identifizierte Individuen offenzulegen (Findata). Der Mechanismus ist ein genehmigungsbasiertes System, in dem verknüpfte Gesundheits- und Sozialdaten pseudonymisiert und innerhalb einer sicheren Verarbeitungsumgebung analysiert werden, sodass Forscher statistische Ergebnisse statt Rohidentitäten erhalten. Dies ist gewissermaßen die Institutionalisierung privatheitswahrender Berechnung: Sie erlaubt es der Gesellschaft, über die Gesundheits- und Sozialergebnisse ihrer jungen Bevölkerung auf der aggregierten, modellbildenden Ebene zu schlussfolgern, während sie den Analysten die individuelle Re-Identifikation, die individuelle Profilbildung erfordert, strukturell verwehrt.

Nebeneinandergestellt bilden MyData, Findata und SISU eine kohärente Alternative zum AuroraAI-Paradigma. Wo AuroraAI danach strebte, über das identifizierte Individuum zu rechnen, um dessen Entscheidungen zu steuern, rechnet diese zweite Familie entweder mit der widerrufbaren Autorisierung des Individuums (MyData) oder über eine geschützte, anonymisierte Bevölkerung (Findata, SISU), um kollektive Entscheidungen zu informieren. Der Unterschied bei der Privatheit ist keiner des Grades, sondern der Architektur. Es ist der Unterschied zwischen gewahrter und verletzter kontextueller Integrität im Sinne Nissenbaums: Daten, die zur Versorgung oder Verwaltung erhoben werden und unter kontrollierten und nachvollziehbaren Normen in eine statistische Nutzung überführt werden, versus Daten, die in einem Kontext erhoben und dazu zweckentfremdet werden, in einem anderen Kontext Profile zu bilden und zu lenken.

8. Jugendspezifische Dynamiken: Einwilligung, das Privatheitskalkül und vernetzte Autonomie

Warum die Jungen als eigenständigen Fall statt als gewöhnliche Datensubjekte behandeln? Drei Befunde aus der verhaltens- und rechnergestützten Literatur rechtfertigen dies.

Erstens ist das sogenannte Privatheitsparadox unter jungen Nutzern am stärksten ausgeprägt: Geäußerte Privatheitsbedenken sagen das Offenlegungsverhalten nur schwach voraus, weil die Offenlegung von unmittelbarer sozialer Belohnung unter den Bedingungen begrenzter Rationalität angetrieben wird (das Privatheitskalkül). Ein auf Jugendverhalten trainiertes Modell lernt daher aus Entscheidungen, die unter systematisch verzerrten Anreizen getroffen wurden, und diese Entscheidungen als offenbarte, autonome Präferenzen zu behandeln, verwandelt eine strukturelle Bedingung in ein individuelles Signal.

Zweitens ist Privatheit für die Jungen vernetzt, nicht individuell (danah boyd). Die Daten eines Jugendlichen werden von Gleichaltrigen, Eltern, Schulen und Plattformen mitproduziert, sodass individuelle Einwilligung sie prinzipiell nicht schützen kann; die relevante Einheit ist das Netzwerk, nicht die Person. Genau diese Eigenschaft macht Profilbildung möglich – die fehlenden Daten über einen jungen Menschen können aus seinen vernetzten Anderen erschlossen werden – und genau diese Eigenschaft können Instrumente individueller Rechte nicht erfassen. Finnlands Wohlfahrtsregister sind eine formelle Fassung dieses vernetzten Substrats, weshalb die rechtliche Frage immer wieder auf Verknüpfung und Rechtsgrundlage zurückkam statt auf irgendeine einzelne Einwilligung.

Drittens ist entwicklungsbezogene Autonomie ein bewegliches Ziel. Die Jungen sind, ihrem Wesen nach, damit beschäftigt, sich von ihren früheren Selbsten zu unterscheiden. Ein System, das einen jungen Menschen aus seiner historischen Spur vorhersagt und dann aufgrund dieser Vorhersage handelt, riskiert, eine Identität einzufrieren, über die hinauszuwachsen die Person berechtigt ist – ein Anliegen, das sich auf das europäische Recht auf Löschung abbilden lässt, aber darüber hinausgeht. Die AuroraAI-Intuition, die Ziele einer Person zu erschließen, ist gerade für jene am problematischsten, deren Ziele noch nicht feststehen.

Diese drei Befunde konvergieren in einer einzigen methodologischen Warnung. Bei Erwachsenen kann man zumindest argumentieren, dass Verhaltensdaten gefestigte Präferenzen unter normalen Anreizen widerspiegeln. Bei den Jungen spiegeln die Daten Präferenzen wider, die ungefestigt, sozial mitproduziert und unter Belohnungsstrukturen geformt sind, die von genau jenen Plattformen optimiert werden, die die Messung vornehmen. Der inferenzielle Boden ist daher gerade dort am schwächsten, wo die interventionistische Versuchung am stärksten ist.

9. Was Computational Social Science sehen kann und was nicht

Eine ehrliche Analyse muss die Linse auf sich selbst richten, denn CSS ist kein neutraler Beobachter dieses Systems; sie ist eines seiner Instrumente.

CSS ist stark in Beschreibung und Vorhersage. Sie kann aus Register- und Spurendaten zeigen, wie sich die Ergebnisse junger Menschen clustern, wie die Dienstnutzung durch eine Bevölkerung fließt und wie eine Leistungsreform Einkommen umverteilen würde (der SISU-Anwendungsfall). Diese sind legitim und wertvoll, und bemerkenswerterweise sind es die Nutzungen, die unter einem Schutz im Stil von Findata ohne individuelle Profilbildung erfolgen können.

CSS ist schwach, und gefährlich, wenn prädiktive Genauigkeit mit kausalem Verständnis oder mit einem Mandat zum Handeln an Individuen verwechselt wird. Ein Modell, das das Sich-Abwenden Jugendlicher mit hoher Genauigkeit vorhersagt, erklärt es dennoch nicht, und es einzusetzen, um Individuen ins Visier zu nehmen, verwandelt ein deskriptives Instrument in eine Entscheidung, die das Instrumentarium des fairen Verfahrens verlangt, auf dem der finnische Ombudsmann bestand. Die methodologische Unterscheidung zwischen Vorhersage und Kausalität ist hier keine akademische Hygiene; sie ist die Grenze zwischen Analyse und nicht rechenschaftspflichtiger Governance.

Es gibt zudem eine reflexive Privatheitskost, die der Messung eigen ist. Um Privatheitsverhalten rechnergestützt zu untersuchen, muss man Verhaltensdaten erheben, sodass die Forschung selbst innerhalb des Phänomens sitzt, das sie untersucht. Finnlands Antwort – genehmigungsgesteuerte, pseudonymisierte Analyse in sicheren Umgebungen – ist ebenso ein Modell für verantwortungsvolle CSS wie für verantwortungsvolle Verwaltung. Dieselbe Architektur, die den Bürger vor der Profilbildung des Staates schützt, schützt das Forschungssubjekt vor dem Forscher.

Schließlich sollte CSS in Bezug auf die Repräsentativität aufrichtig sein. Registerdaten erfassen die Bevölkerung, die mit Institutionen in Kontakt steht, was die Sichtbaren und die Regierten überrepräsentiert. Jugendmodelle auf dieser Grundlage aufzubauen, riskiert Eubanks’ Rückkopplungsschleife: Die jungen Menschen, die das System am klarsten sehen kann, werden zu den jungen Menschen, die es am stärksten kontrolliert, und die daraus resultierenden Daten bestätigen den ursprünglichen Fokus. Keine noch so große Modellraffinesse korrigiert einen Stichprobenrahmen, der selbst ein Produkt ungleicher institutioneller Aufmerksamkeit ist.

10. Schluss

Durch die Methoden der Computational Social Science analysiert, löst sich das Problem von Privatheit, KI und Entscheidungsfindung für junge Generationen in eine einzige Unterscheidung mit großen Folgen auf: über das identifizierte Individuum zu rechnen, um dieses Individuum zu steuern, versus mit widerrufbarer Autorisierung oder über eine geschützte Bevölkerung zu rechnen, um kollektive Entscheidungen zu informieren. Finnland führte beide Experimente in der Öffentlichkeit durch. Das erste, AuroraAI, stieß an die Grenzen der Profilbildung einer Bevölkerung, deren Daten dünn, vernetzt und rechtlich geschützt sind, und wurde heruntergefahren. Das zweite – das Beharren des Ombudsmanns auf Rechtsgrundlage und Rechenschaft, die Gesetzgebung zur automatisierten Entscheidungsfindung von 2023 sowie die Architekturen von MyData und Findata – zeigt, wie es aussieht, die analytische Kraft der Berechnung zu bewahren und ihr zugleich die individuelle Re-Identifikation und die nicht rechenschaftspflichtige Entscheidungsfindung zu verwehren, die sie gefährlich machen.

Die Lehre ist nicht, dass die Jungen von datafizierten Diensten ausgeschlossen werden sollten, was weder möglich noch wünschenswert ist, sondern dass die Methode dem Einsatz angemessen sein muss. Simulation und anonymisierte Analyse können und sollten die Regeln informieren, die die Entscheidungen einer Generation prägen. Individuelle Profilbildung und automatisierte Entscheidungsfindung müssen, wo sie die Jungen berühren, das volle Gewicht von Transparenz, Anfechtbarkeit und namentlicher Rechenschaft tragen, denn die Jungen sind die Bevölkerungsgruppe, die am wenigsten in der Lage ist, einen Fehler zu erkennen, und am meisten berechtigt ist, jemand zu werden, den ihre früheren Daten nicht vorhergesagt haben. Die Computational Social Science liefert sowohl die Werkzeuge, die diese Spannung erzeugen, als auch die Disziplin, die nötig ist, um sie auszuhalten. Finnlands Jahrzehnt des Versuchs ist das Nächste, was wir an einem kontrollierten Test dafür haben, ob eine Gesellschaft das Erste haben kann, ohne dem Zweiten zu erliegen.

Sources

Hinweis: Die im Text angeführten analytischen Rahmungen stützen sich auf etablierte Forschung in der Computational Social Science und der Datenethik – darunter Lazer und Kollegen zur Computational Social Science, Salganiks Bit by Bit, Kleinberg und Kollegen zu prediction policy problems, Nissenbaums kontextuelle Integrität, danah boyd zur vernetzten Privatheit, Sonia Livingstone zu den Datenrechten von Kindern und Virginia Eubanks’ Automating Inequality. Diese werden auf der Ebene von Konzept und Autor zitiert; die Leser sollten die Primärwerke für die genauen Formulierungen konsultieren.

Dies ist ein analytischer Essay zu Diskussionszwecken; er stellt keine Rechtsberatung dar.

Lesen Sie auch