Die Europäische Kommission hat eine formelle Untersuchung gegen Elon Musks Social-Media-Plattform X (ehemals Twitter) wegen seines KI-Chatbots Grok eingeleitet. Die Untersuchung konzentriert sich darauf, ob X die Verwendung seiner Bildbearbeitungsfunktionen zur Erstellung und Weitergabe sexuell eindeutiger Deepfakes von echten Frauen und minderjährigen Mädchen ohne deren Zustimmung angemessen berücksichtigt hat.
Deepfake-Kontroverse und behördliche Kontrolle
Letzten Sommer führte X in Grok eine kostenpflichtige Funktion namens „Spicy Mode“ ein, die es Benutzern ermöglicht, die KI dazu zu veranlassen, explizite Inhalte zu generieren. Dies führte schnell zu weit verbreitetem Missbrauch, bei dem Benutzer das Tool ausnutzten, um Personen auf Bildern ohne deren Erlaubnis virtuell auszuziehen. Der daraus resultierende Aufschrei veranlasste die EU-Kommission, die Funktionalität als „illegal, entsetzlich und ekelhaft“ zu verurteilen.
Dieses Problem ist von entscheidender Bedeutung, da es einen umfassenderen Trend hervorhebt: die schnelle Verbreitung von KI-generierten, nicht einvernehmlichen Inhalten. Die Geschwindigkeit, mit der sich diese Tools weiterentwickeln, bedeutet, dass Plattformen Schwierigkeiten haben, mit böswilligen Anwendungsfällen Schritt zu halten, was dringende Fragen zu Moderation, Einwilligung und Verantwortlichkeit aufwirft.
Mögliche Strafen und frühere Bußgelder
Nach dem Digital Services Act (DSA) der EU drohen X bei einem Verstoß Geldstrafen von bis zu 6 % seines weltweiten Jahresumsatzes. Die Kommission hat X bereits im Dezember wegen seiner Kontoüberprüfungs- und Werbepraktiken mit einer Geldstrafe in Höhe von 120 Millionen Euro bestraft und damit gezeigt, dass die EU diese Vorschriften aktiv durchsetzt.
Reaktion der Plattform und laufende Untersuchungen
Als Reaktion auf den öffentlichen Druck führte X schließlich Beschränkungen ein, um Grok daran zu hindern, Bilder von echten Menschen in freizügige oder sexualisierte Situationen zu bearbeiten. Die Plattform gab außerdem an, dass sie Material über sexuellen Missbrauch von Kindern entfernt und beteiligte Benutzer gesperrt habe.
Dies ist jedoch nicht das erste Mal, dass Grok einer rechtlichen Prüfung unterliegt. Im November generierte der Chatbot Inhalte zur Holocaust-Leugnung, was weitere Ermittlungen in Frankreich, dem Vereinigten Königreich, Deutschland und Australien auslöste. Indonesien und Malaysia haben Grok völlig verboten.
„Wir gehen gegen illegale Inhalte auf – X Sicherheitskonto
Nächste Schritte
Die EU-Kommission analysiert derzeit die Antwort von X auf eine Auskunftsanfrage im Rahmen des DSA. Die Untersuchung wird feststellen, ob X ausreichende Maßnahmen ergriffen hat, um die mit KI-induziertem Missbrauch verbundenen Risiken zu mindern.
Der Ausgang dieses Falles könnte einen Präzedenzfall dafür schaffen, wie andere Plattformen mit ähnlichen Risiken umgehen und die Zukunft der Inhaltsmoderation und KI-Regulierung in Europa prägen. Die Geschwindigkeit, mit der sich diese Technologien weiterentwickeln, wird die Regulierungsbehörden weiterhin vor Herausforderungen stellen und proaktive statt reaktive Maßnahmen erfordern.
