Der AI Act: Anwendung für Allzweck-KI-Modelle und Transparenzpflichten beginnt heute; Sanktionen drohen, Fristen für Hochrisiko-KI-Systeme verschieben sich

Hintergrund

Seit dem 2. August ist die Anwendung der EU-Verordnung über künstliche Intelligenz (AI Act) offiziell in Kraft. Organisationen, die nicht konform sind, müssen mit Bußgeldern rechnen, einschließlich solcher außerhalb der EU, die KI-Dienste für europäische Kunden anbieten (wie in Artikel 2 festgelegt). Das AI Office ist dafür zuständig, die Vorschriften für Anbieter von KI-Modellen für allgemeine Zwecke, einschließlich solcher mit systemischem Risiko, sowie für KI-Systeme, die vom Anbieter des zugrunde liegenden Modells angeboten werden, durchzusetzen. Parallel dazu werden sich die zuständigen nationalen Behörden der 27 Mitgliedstaaten um andere KI-Systeme kümmern, während der Europäische Datenschutzbeauftragte (EDPS) die von EU-Institutionen und -Agenturen verwendeten KI-Systeme überwachen wird. Ebenfalls beginnt die Anwendung der Transparenzpflichten und der verbotenen KI-Praktiken, mit zwei Ausnahmen. Das AI Office hat kürzlich Prof. Alessandro Abate zum Lead Scientific Adviser ernannt. Es wurden Tools eingeführt, wie das Complaint Tool zur Meldung mutmaßlicher Verstöße, das Whistleblower Tool für vertrauliche Meldungen von Mitarbeitern der Anbieter und ein eigener Kanal für Anbieter. Der Digital Omnibus zur KI hat jedoch Verzögerungen für einige Bestimmungen eingeführt: Die Schonfrist für die Watermarking-Pflichten (Artikel 50 Absatz 2) für bereits auf dem Markt befindliche KI-Systeme wurde bis zum 2. Dezember 2026 verlängert, die Anwendung für Hochrisiko-KI-Systeme gemäß Anhang III ist auf den 2. Dezember 2027 verschoben und für solche gemäß Anhang I auf den 2. August 2028.

Warum es wichtig ist

Seit dem 2. August sind Unternehmen, die Allzweck-KI-Modelle entwickeln oder nutzen oder verbotene KI-Praktiken anwenden, bei Nichteinhaltung des AI Act erheblichen Sanktionen ausgesetzt. Dies macht eine dringende Bewertung der eigenen Risikoposition und der Einhaltung der Transparenzpflichten erforderlich, auch wenn einige Fristen für Hochrisiko-KI-Systeme verlängert wurden. Die Compliance ist nicht länger eine Option, sondern eine rechtliche Verpflichtung mit direkten finanziellen Konsequenzen. Hat Ihre Organisation bereits eine interne Überprüfung eingeleitet, um Risiken im Zusammenhang mit der Nutzung oder Entwicklung von KI zu identifizieren und zu mindern?

Was zu tun ist

• Überprüfen Sie die Konformität Ihrer Allzweck-KI-Modelle oder verwendeten KI-Systeme mit den Transparenzpflichten und verbotenen Praktiken des AI Act.
• Beurteilen Sie die Anwendbarkeit des AI Act, auch wenn Ihr Unternehmen seinen Sitz außerhalb der EU hat, aber europäische Kunden bedient.
• Überwachen Sie die verschobenen Fristen für Hochrisiko-KI-Systeme (Anhang I und III) und die Watermarking-Pflichten (Artikel 50 Absatz 2), um sich rechtzeitig vorzubereiten.
• Machen Sie sich mit den Meldungstools (Complaint Tool, Whistleblower Tool) vertraut, falls Sie mutmaßliche Verstöße feststellen.

Was zu vermeiden ist

• Ignorieren Sie die Anwendung des AI Act nicht, auch wenn Ihr Unternehmen nicht in der EU ansässig ist, aber europäische Kunden hat.
• Vernachlässigen Sie nicht die Transparenzpflichten und die Einführung verbotener KI-Praktiken, deren Anwendung bereits begonnen hat.
• Unterschätzen Sie nicht die Risiken von Sanktionen bei Nichteinhaltung des AI Act.

Praktische Auswirkungen

Das Inkrafttreten des AI Act verpflichtet Organisationen, die KI-Systeme entwickeln, vertreiben oder nutzen, ihre Praktiken zu überprüfen und anzupassen. Nichteinhaltung kann hohe Bußgelder und Reputationsschäden nach sich ziehen. Organisationen müssen sich nun den Transparenzpflichten stellen und sicherstellen, dass sie keine verbotenen KI-Praktiken anwenden. Die Verzögerungen für bestimmte Kategorien von Hochrisiko-Systemen bieten eine zusätzliche Zeitspanne für die Anpassung, beseitigen jedoch nicht die Notwendigkeit einer strategischen Planung.

Zu vermeidende Fehler

• Warten Sie nicht bis zur letzten Frist, um Anpassungsmaßnahmen einzuleiten, insbesondere für bereits in Kraft getretene Pflichten.
• Nehmen Sie nicht an, dass die Verlängerungen für Hochrisiko-Systeme alle Aspekte des AI Act betreffen.
• Nicht die Implikationen für Drittanbieter von KI-Modellen oder -Systemen berücksichtigen.

Fragen zur Selbsteinschätzung

• Welche unserer KI-Systeme fallen unter die Definition von 'Allzweck-KI-Modell' oder 'KI-System'?
• Haben wir bereits verbotene KI-Praktiken in unserer Organisation identifiziert und eingestellt?
• Wie dokumentieren wir die Transparenz unserer KI-Systeme, um die Anforderungen des AI Act zu erfüllen?
• Haben wir einen Plan für die Anwendung der Watermarking-Pflichten und für die Konformität von Hochrisiko-KI-Systemen?
• Sind unsere KI-Anbieter über ihre Pflichten gemäß dem AI Act informiert, und wie überprüfen wir deren Konformität?

Verweise

Nationales Recht: AI Act Articolo 2 · AI Act Articolo 50.2 · AI Act Allegato I · AI Act Allegato III