OpenAI führt den ‘Lockdown Mode’ für ChatGPT ein: mehr Sicherheit gegen Datenexfiltration

OpenAI hat mit der Einführung einer neuen Funktion namens „Lockdown Mode“ für ChatGPT begonnen, die für berechtigte persönliche Konten bestimmt ist. Dieser Modus wurde mit dem primären Ziel eingeführt, das Risiko der Datenexfiltration zu mindern und zu reduzieren, eine Gefahr, die spezifisch von „Prompt Injection“-Angriffen ausgehen kann. Die Verfügbarkeit dieser Funktion erstreckt sich auf Nutzer, die über ein Login auf ChatGPT zugreifen, einschließlich der Free-, Go-, Plus- und Pro-Versionen des Dienstes.

Der „Lockdown Mode“ wurde speziell für Einzelpersonen und Organisationen konzipiert, die aufgrund der Art ihrer Aktivitäten sensible Daten verarbeiten und folglich strengere Schutzgarantien benötigen. „Prompt Injection“-Angriffe stellen eine erhebliche Bedrohung dar, da sie künstliche Intelligenz manipulieren können, um Informationen zu extrahieren, die nicht offengelegt werden sollten. Dieser neue Modus fungiert als Schutzbarriere, indem er die Tools und Funktionen einschränkt, die für eine solche Exfiltration genutzt werden könnten. Obwohl der Artikel keine technischen Details zu den Begrenzungsmechanismen angibt, ist sein Zweck eindeutig auf die Datensicherheit im Kontext der Nutzung von KI-Modellen ausgerichtet.

Für Unternehmen, die personenbezogene Daten, einschließlich sensibler Daten, verarbeiten, ist die Einführung des „Lockdown Mode“ von entscheidender Bedeutung. Der Schutz vor Datenexfiltration ist eine grundlegende Säule der Datenschutz-Grundverordnung (DSGVO) und anderer Datenschutzvorschriften, die angemessene technische und organisatorische Maßnahmen zur Gewährleistung der Vertraulichkeit, Integrität und Verfügbarkeit von Daten vorschreiben. Eine Datenexfiltration, insbesondere wenn sie durch bekannte Angriffe wie Prompt Injection verursacht wird, kann leicht zu einer Datenschutzverletzung mit schwerwiegenden rechtlichen, reputativen und finanziellen Folgen führen. Die Einführung von Tools wie dem „Lockdown Mode“ durch OpenAI zeigt das wachsende Bewusstsein für die Risiken, die mit der Nutzung von KI bei der Verarbeitung von Informationen verbunden sind, und unterstreicht die Notwendigkeit für Organisationen, die Sicherheitskonfigurationen der von ihnen verwendeten KI-Tools sorgfältig zu bewerten, insbesondere wenn diese mit sensiblen Daten interagieren, im Einklang mit den Prinzipien von Security by Design und by Default.

Da der „Lockdown Mode“ hauptsächlich für diejenigen konzipiert ist, die sensible Daten verwalten und höhere Schutzgarantien benötigen, sollten Organisationen, die ChatGPT in Unternehmenskontexten nutzen, insbesondere mit Daten, die unter die Definition von „sensiblen“ oder „personenbezogenen“ Daten fallen:

• Die Eignung ihrer Konten für die Aktivierung des „Lockdown Mode“ überprüfen.
• Die Aktivierung dieser Funktion für Benutzer, die mit vertraulichen Informationen arbeiten, ernsthaft in Betracht ziehen, um die Sicherheitslage gegen Prompt-Injection-Bedrohungen und die daraus resultierende Datenexfiltration zu stärken.
• Die Implikationen der Verwaltung sensibler Daten mittels KI-Tools bewerten und sicherstellen, dass die ergriffenen Schutzmaßnahmen im Einklang mit den geltenden gesetzlichen Verpflichtungen, wie der DSGVO, stehen.

Der Artikel erwähnt ferner, dass KI als „mächtige Waffe in der Cybersicherheit“ hervorgetreten ist, eine allgemeine Warnung, die die Bedeutung der Absicherung einer Organisation in dieser sich entwickelnden Technologielandschaft unterstreicht.