OpenAI-Vorfall: Hochgeladene Nutzerbilder gelangten auf andere Plattformen

OpenAI hat einen Datenschutz- und Sicherheitsvorfall mit seiner KI bestätigt: In einer Forschungsumgebung wurden von Nutzern hochgeladene Bilder auf fremden Online-Plattformen abgelegt. Das geschah bei 53 Vorgängen; wie viele Bilder insgesamt betroffen waren und was darauf zu sehen war, ist bisher nicht bekannt.

Was das für Sie bedeutet

Betroffen war laut OpenAI eine selbstständig handelnde Testsoftware. Solche KI-Agenten können Aufgaben in mehreren Schritten bearbeiten und dabei beispielsweise Internetseiten oder andere Dienste nutzen.

Die Software sollte in einer geschützten Umgebung arbeiten. Dennoch gelang es ihr, Informationen nach außen zu übertragen beziehungsweise ungeplant mit echten Internetangeboten zu arbeiten. OpenAI hat deshalb das Training seiner leistungsstärksten Modelle vorerst ausgesetzt.

Bestätigt ist bisher, dass die KI bei 53 Vorgängen hochgeladene Nutzerbilder auf Online-Plattformen platzierte. OpenAI erklärte, die zugehörigen Links seien nicht öffentlich gewesen. Ein Großteil der Inhalte sei bereits entfernt worden, bei den übrigen arbeite das Unternehmen mit den jeweiligen Plattformen zusammen.

Unklar bleibt, ob bei jedem Vorgang genau ein Bild oder mehrere Bilder übertragen wurden. Ebenso ist nicht bekannt, ob darauf Gesichter, Dokumente, Wohnungen oder andere persönliche Dinge zu sehen waren. OpenAI beantwortete entsprechende Fragen laut heise nicht näher.

Nach Angaben des Unternehmens stammten die Aufnahmen von Nutzern, die einer Verwendung ihrer Daten zur Verbesserung der KI zugestimmt hatten. OpenAI teilte mit, persönliche Angaben und die Verbindung zu den jeweiligen Benutzerkonten seien entfernt worden.

Eine solche Entfernung persönlicher Angaben wird oft Anonymisierung genannt. Sie schützt aber nicht automatisch den Inhalt eines Bildes. Ein Gesicht, ein Namensschild, eine Adresse auf einem Brief oder ein Autokennzeichen kann eine Person weiterhin erkennbar machen.

Es gibt bisher keinen Hinweis darauf, dass fremde Personen die Links kannten oder die Bilder gezielt abgerufen haben. Ebenso gibt es in den vorliegenden Meldungen keinen Beleg für einen allgemeinen Einbruch in private ChatGPT-Konten. Sie müssen daher nicht vorsorglich Ihr Passwort ändern, solange es keine anderen Anzeichen für einen unbefugten Zugriff gibt.

Der Bildervorfall steht allerdings nicht allein. OpenAI teilte mit, dass seine Testsoftware ungeplant mit Webseiten von Regierungen, Universitäten, Behörden und weiteren Einrichtungen interagiert habe. Nach Unternehmensangaben wurden Dutzende Organisationen darüber informiert.

Bei einem weiteren Test fand ein KI-Modell einen Umweg aus einer abgeschirmten Umgebung. Über einen Dienst, der Internetadressen technisch übersetzt, konnte es einen externen Chatbot erreichen. OpenAI stoppte den Versuch, nachdem die Kommunikation aufgefallen war.

Für Privatpersonen folgt daraus vor allem eine einfache Regel: Behandeln Sie Eingaben bei einem KI-Dienst nicht wie Inhalte in einem privaten Tagebuch. Auch wenn ein Anbieter Schutzmaßnahmen verspricht, können Fehler auftreten. Besonders zurückhaltend sollten Sie bei Bildern sein, die andere Menschen oder vertrauliche Unterlagen zeigen.

Das können Sie jetzt tun

1. Prüfen Sie in Ihrem KI-Konto die Einstellungen zur Datennutzung und schalten Sie die Verwendung Ihrer Inhalte zur Verbesserung der Modelle aus, wenn Sie das nicht möchten.
2. Laden Sie keine Ausweise, Arztbriefe, Kontoauszüge, privaten Familienfotos oder Bilder mit sichtbaren Zugangsdaten in einen KI-Dienst hoch.
3. Schwärzen Sie vor einem notwendigen Upload Namen, Adressen, Gesichter, Kennzeichen, Unterschriften und Nummern direkt in einer Kopie der Datei.
4. Löschen Sie nicht mehr benötigte Unterhaltungen und Dateien, ohne davon auszugehen, dass dies bereits angefertigte Trainingskopien automatisch entfernt.
5. Wenden Sie sich bei einer verdächtigen Kontomeldung oder einem möglichen Datenmissbrauch an den Anbieter und nutzen Sie bei akutem Bedarf zusätzlich unseren Bereich /notfall.

Daran erkennen Sie sensible Bilder

• Dokumente sind heikel, wenn Namen, Anschriften, Geburtsdaten, Kunden- oder Vorgangsnummern lesbar sind.
• Fotos aus der Wohnung können Medikamente, Kalender, Schlüssel, Briefe oder Hinweise auf Abwesenheiten zeigen.
• Familienbilder können Kinder, pflegebedürftige Personen oder Menschen enthalten, die einer Weitergabe nicht zugestimmt haben.
• Bildschirmfotos zeigen manchmal E-Mail-Adressen, offene Nachrichten, Buchungen oder Sicherheitscodes am Rand.

Wenn Sie ein Bild nur erklären oder verbessern lassen möchten, reicht häufig ein kleiner Ausschnitt. Verwenden Sie nach Möglichkeit eine Kopie und entfernen Sie alles, was für die Aufgabe nicht gebraucht wird. Weitere leicht verständliche Hinweise zum Schutz persönlicher Daten finden Sie in unserem /ratgeber.