Probleme mit KI melden: Welche Beschwerdestelle ist zuständig?
10 Minuten
Vorlesen ist in diesem Browser nicht verfügbar.
Ein Chatbot verschweigt, dass er eine KI ist. Ein Deepfake ist nicht gekennzeichnet. Eine App verarbeitet persönliche Daten. Oder eine gefälschte Stimme fordert Geld. Solche Fälle wirken ähnlich, gehören aber nicht automatisch zur gleichen Beschwerdestelle.
Direkte Antwort
Für vermutete Verstöße gegen die EU-KI-Verordnung ist in Deutschland meist die Bundesnetzagentur zuständig. Bei Datenschutzproblemen hilft die Datenschutzaufsicht. Betrug oder andere Straftaten gehören zur Polizei. Probleme mit Unternehmen können der Verbraucherzentrale gemeldet werden. Für bestimmte große KI-Anbieter gibt es zusätzlich das Beschwerdewerkzeug des EU AI Office.
Warum es mehrere Beschwerdestellen gibt
Nicht jedes Problem mit KI ist ein Verstoß gegen die KI-Verordnung. Eine fehlende Kennzeichnung betrifft andere Regeln als ein Datenmissbrauch oder eine Geldforderung. Die richtige Stelle hängt deshalb davon ab, was konkret passiert ist.
Bundesnetzagentur: Verstöße gegen die KI-Verordnung
Die Bundesnetzagentur betreibt die zentrale deutsche KI-Beschwerdestelle. Dort können Betroffene mögliche Verstöße gegen die EU-KI-Verordnung melden. Beispiele sind verbotene KI-Praktiken oder verletzte Transparenzpflichten. Wer unsicher ist, kann die Beschwerde dort einreichen. Die Behörde prüft die Zuständigkeit und leitet den Fall nach Möglichkeit weiter.
EU AI Office: bestimmte große KI-Anbieter und Plattformen
Das EU AI Office nimmt Beschwerden nur in seinem eigenen Zuständigkeitsbereich an. Dazu gehören bestimmte KI-Systeme großer Anbieter sowie KI-Systeme in sehr großen Online-Plattformen oder Suchmaschinen. Das Formular ist nicht anonym. Beschwerden können in allen EU-Amtssprachen eingereicht werden.
Datenschutzaufsicht: persönliche Daten wurden falsch verwendet
Wenn eine KI persönliche Daten ohne ausreichende Grundlage verarbeitet, ist meist eine Datenschutzbehörde zuständig. Das gilt zum Beispiel für Namen, Fotos, Stimmen oder Gesundheitsdaten. Die zuständige Behörde hängt vom Anbieter und vom Bundesland ab. Der Zuständigkeitsfinder der Bundesdatenschutzbeauftragten hilft bei der Auswahl.
Polizei: Betrug, Drohung oder finanzieller Schaden
Eine KI-Stimme fordert Geld oder ein gefälschtes Video führt zu einer Überweisung. Dann geht es nicht nur um KI-Regeln, sondern möglicherweise um eine Straftat. Einfache Fälle können über die Onlinewache gemeldet werden. Bei Gefahr oder einer laufenden Straftat gilt der Polizeinotruf 110.
Verbraucherzentrale: Probleme mit Unternehmen oder Angeboten
Die Verbraucherzentrale sammelt Beschwerden über Anbieter, Produkte und Dienstleistungen. Das passt zum Beispiel bei irreführender KI-Werbung, unklaren Verträgen oder Problemen mit einem kostenpflichtigen Dienst. Wer eine persönliche Beratung benötigt, muss dafür einen Beratungstermin vereinbaren.
Zuerst beim Anbieter melden kann sinnvoll sein
Bei einem technischen Fehler oder einer falschen Kontoeinstellung kann der Kundendienst der schnellste Weg sein. Speichern Sie die Antwort des Anbieters. Wenn der Fall nicht gelöst wird oder ein möglicher Rechtsverstoß bleibt, können die Unterlagen später einer Behörde helfen.
Belege sichern, aber nichts Gefährliches weiterverbreiten
Hilfreich sind Datum, Name des Dienstes, Internetadresse und eine kurze Beschreibung. Screenshots können den Vorgang belegen. Veröffentlichen Sie dabei keine privaten Daten. Verdächtige Dateien und Links sollten nicht erneut geöffnet oder an andere Personen weitergeleitet werden.
Praxisbeispiel
Herr Wagner sieht in einem sozialen Netzwerk ein täuschend echtes Werbevideo. Eine bekannte Person wirbt dort angeblich für eine Geldanlage. Eine KI-Kennzeichnung fehlt. Herr Wagner klickt nicht auf den Link. Er speichert die Internetadresse und einen Screenshot. Wegen des möglichen Verstoßes gegen die Kennzeichnungspflicht nutzt er die KI-Beschwerdestelle der Bundesnetzagentur. Hätte er bereits Geld überwiesen, würde er zusätzlich sofort seine Bank und die Polizei kontaktieren.
Schritt-für-Schritt
Beenden Sie zuerst den Kontakt und leisten Sie keine Zahlung.
Notieren Sie, was passiert ist, wann es passiert ist und welcher Dienst beteiligt war.
Sichern Sie Internetadresse, Nachrichten und Screenshots ohne private Daten zu veröffentlichen.
Prüfen Sie: Geht es um KI-Regeln, persönliche Daten, Betrug oder einen Vertrag?
Nutzen Sie für KI-Regeln die zentrale Beschwerdestelle der Bundesnetzagentur.
Nutzen Sie bei Datenschutzproblemen die zuständige Datenschutzaufsicht.
Wenden Sie sich bei Betrug, Drohung oder Schaden an Polizei und gegebenenfalls Bank.
Bewahren Sie Eingangsbestätigungen und Vorgangsnummern auf.
Sicherheits- und Datenschutzhinweise
Keine Passwörter, Zugangsdaten, Ausweisnummern, Bankdaten oder Gesundheitsdaten in KI-Systeme eingeben.
KI-Antworten bei wichtigen Entscheidungen immer prüfen und nicht ungeprüft übernehmen.
KI-Kompass Alltag ersetzt keine Rechts-, Medizin-, Finanz-, Steuer- oder ethisch grenzwertige Beratung.
Bei akuter Gefahr oder einer laufenden Straftat wählen Sie 110. Die Onlinewache ist nicht für Notfälle gedacht.
Informieren Sie bei einer verdächtigen oder bereits erfolgten Zahlung unverzüglich Ihre Bank.
Klicken Sie verdächtige Links nicht erneut an und laden Sie keine unbekannten Dateien herunter.
Schwärzen Sie nicht benötigte persönliche Daten in Belegen, bevor Sie diese weitergeben.
Dieser Beitrag bietet Orientierung und keine Rechtsberatung. Die zuständige Stelle entscheidet über den Einzelfall.
Häufig gestellte Fragen
Wo kann ich einen Verstoß gegen die KI-Verordnung melden?
Einen vermuteten Verstoß gegen die KI-Verordnung können Sie in Deutschland bei der zentralen KI-Beschwerdestelle der Bundesnetzagentur melden. Das betrifft zum Beispiel fehlende Transparenz oder verbotene KI-Praktiken. Die Beschwerde wird über ein Onlineformular eingereicht und ist kostenfrei.
Kann ich mich auch beschweren, wenn ich die Zuständigkeit nicht kenne?
Ja. Die Bundesnetzagentur erklärt ausdrücklich, dass unsichere Fälle bei ihrer KI-Beschwerdestelle eingereicht werden können. Die Behörde prüft die Zuständigkeit und leitet die Beschwerde nach Möglichkeit an die zuständige Stelle weiter. Beschreiben Sie den Vorgang so konkret wie möglich.
Wann ist das EU AI Office zuständig?
Das EU AI Office ist nur für bestimmte Fälle zuständig. Dazu gehören bestimmte KI-Systeme großer Modellanbieter sowie KI-Systeme in sehr großen Plattformen oder Suchmaschinen. Das europäische Beschwerdeformular ist nicht anonym. Die Bundesnetzagentur verweist passende Fälle an dieses Werkzeug.
Wo melde ich den Missbrauch meiner persönlichen Daten?
Den möglichen Missbrauch persönlicher Daten melden Sie in der Regel einer Datenschutzaufsichtsbehörde. Die richtige Stelle hängt vom verantwortlichen Anbieter und dessen Sitz ab. Der Zuständigkeitsfinder der Bundesbeauftragten für den Datenschutz hilft dabei, die passende Behörde zu bestimmen.
Wo melde ich einen KI-Schockanruf oder Deepfake-Betrug?
Einen KI-Schockanruf oder Deepfake-Betrug melden Sie der Polizei. Für nicht dringende Fälle steht die Onlinewache zur Verfügung. Bei unmittelbarer Gefahr oder einer laufenden Straftat wählen Sie 110. Wurde Geld überwiesen, informieren Sie zusätzlich sofort Ihre Bank.
Wann hilft die Verbraucherzentrale?
Die Verbraucherzentrale ist bei Problemen mit Unternehmen, Produkten, Werbung oder Verträgen eine passende Anlaufstelle. Beschwerden können über den Beschwerde-Melder übermittelt werden. Dieser Melder ersetzt keine persönliche Beratung. Für eine individuelle Einschätzung ist ein Beratungstermin erforderlich.
Welche Belege sollte ich für eine KI-Beschwerde sichern?
Sichern Sie den Namen des KI-Dienstes, die Internetadresse, Datum, Uhrzeit und eine kurze Beschreibung. Screenshots, Nachrichten und Antworten des Anbieters können ebenfalls helfen. Veröffentlichen Sie die Belege nicht und schwärzen Sie persönliche Daten, die für die Prüfung nicht nötig sind.
Kostet eine Beschwerde bei der Bundesnetzagentur Geld?
Nein. Die Beschwerde bei der zentralen KI-Beschwerdestelle der Bundesnetzagentur ist kostenfrei. Nach dem Eingang erhalten Beschwerdeführende eine Bestätigung. Wie lange die Prüfung dauert, hängt laut Bundesnetzagentur von der Komplexität des Falls und der Auslastung ab.
Kann ich eine KI-Beschwerde anonym einreichen?
Nicht jedes Beschwerdeverfahren ist anonym. Das Beschwerdewerkzeug des EU AI Office verlangt Identitäts- und Kontaktdaten. Auch andere Stellen benötigen häufig Kontaktdaten für Rückfragen. Prüfen Sie deshalb vor dem Absenden die Datenschutzhinweise des jeweiligen Formulars.
Ist eine falsche KI-Antwort automatisch ein Rechtsverstoß?
Nein. Eine falsche KI-Antwort ist nicht automatisch ein Verstoß gegen die KI-Verordnung. Entscheidend sind der konkrete Einsatz, die geltenden Pflichten und mögliche Folgen. Melden Sie technische Fehler zunächst beim Anbieter. Bei Schäden, Datenmissbrauch oder Täuschung können weitere Stellen zuständig sein.
Ordnen Sie das Problem zuerst ruhig ein und nutzen Sie dann den passenden offiziellen Meldeweg. KI-Kompass Alltag kann bei der Orientierung helfen, übernimmt aber keine Rechtsberatung.
