Ki-generierte kinderpornografie: spanien fordert ermittlungen gegen große plattformen

Eskalation im kampf gegen kinderpornografie

Die spanische Regierung hat einen deutlichen Schritt unternommen, um die Verbreitung von kinderpornografischem Material, das mithilfe von Künstlicher Intelligenz (KI) erzeugt wird, zu bekämpfen. Premierminister Pedro Sánchez hat angekündigt, dass die Staatsanwaltschaft gegen große digitale Plattformen wie Meta (Facebook, Instagram), TikTok und X (ehemals Twitter) ermitteln soll. Der Anstoß hierfür kam am 17. Januar 2026.

Die juristische grundlage: artikel 8 des organgesetzes der staatsanwaltschaft

Die Regierung stützt sich dabei auf Artikel 8 des Organgesetzes der Staatsanwaltschaft, der es der Regierung ermöglicht, die Staatsanwaltschaft aufzufordern, ermittlungen im öffentlichen Interesse einzuleiten. Dies bedeutet nicht, dass die Regierung die Ermittlungen direkt anordnen kann, sondern lediglich, dass sie die Staatsanwaltschaft auf relevante Sachverhalte hinweist, die möglicherweise strafrechtlich relevant sind.

Die wachsende bedrohung durch ki-generierte inhalte

Die Maßnahme erfolgt inmitten wachsender Besorgnis über den Missbrauch von KI-Tools zur Erstellung expliziter sexueller Bilder von Minderjährigen. Diese sogenannte Deepfake-Technologie ermöglicht es, Bilder und Videos zu manipulieren oder zu erzeugen, die täuschend echt wirken. UNICEF, ECPAT und INTERPOL haben in einer Studie festgestellt, dass weltweit mindestens 1,2 Millionen Kinder Opfer solcher Manipulationen geworden sind.

Grok im fokus: kontroversen um elon musks ki

Besonders im Fokus steht dabei der Chatbot Grok, der in die Plattform X von Elon Musk integriert ist. Die irische Datenschutzbehörde, zuständig für X innerhalb der EU, hat bereits ein Verfahren eingeleitet, um zu prüfen, ob X die Datenschutz-Grundverordnung (DSGVO) verletzt hat, indem es Nutzerdaten zur Erstellung solcher Inhalte verarbeitet. Auch die Europäische Kommission hat ein Bußgeldverfahren gegen X wegen möglicher Verstöße gegen den Digital Services Act (DSA) eingeleitet.

Kritik und alternative ansätze

Experten äußern Zweifel, ob der Gang zur Staatsanwaltschaft der effektivste Weg sei. Borja Adsuara, ein Rechtsexperte für digitale Themen, sieht darin möglicherweise nur eine „Ablenkungsmanöver“ von der mangelnden Umsetzung des DSA in Spanien. Er betont, dass die eigentlich zuständige Behörde für die Durchsetzung des DSA die Kommission Europäischer Union sei, die bei Verstößen Bußgelder bis zu 6 % des Jahresumsatzes verhängen kann.

Die verantwortung des nutzers und der plattform

Rechtlich gesehen liegt die primäre Verantwortung für die Verbreitung von Kinderpornografie beimjenigen, der den Inhalt erstellt oder verbreitet. Plattformen können nur dann haftbar gemacht werden, wenn sie Kenntnis von solchen Inhalten haben und nicht aktiv dagegen vorgehen. Der spanische Strafgesetzbuch Artikel 189.1 ahndet die Produktion und Verbreitung von Kinderpornografie.

Zivilgesellschaftliche reaktionen und forderungen

Organisationen wie UNICEF begrüßen die Initiative der Regierung als wichtigen Schritt zur Stärkung des Schutzes von Kindern im digitalen Raum. Nacho Guadíx von UNICEF Spanien betont, dass alle Behörden Maßnahmen ergreifen müssen, um dieser Problematik entgegenzuwirken und bestehende Lücken zu schließen.

Ausblick: zukünftige gesetzgebung und internationale zusammenarbeit

Die Entwicklung zeigt die Notwendigkeit einer verstärkten internationalen Zusammenarbeit und einer effektiven Gesetzgebung, um den Missbrauch von KI-Technologien zu bekämpfen und Kinder vor sexueller Ausbeutung zu schützen. Spanien steht vor der Herausforderung, den DSA vollständig umzusetzen und seine nationalen Gesetze an die neuen Realitäten der digitalen Welt anzupassen.