La plataforma de redes sociales X (anteriormente Twitter) de Elon Musk ha tomado medidas para bloquear la creación de deepfakes sexualmente explícitos utilizando su chatbot de inteligencia artificial, Grok. El cambio se produce en respuesta a la indignación generalizada y a una investigación formal de la Comisión Europea sobre los usuarios que explotan las capacidades de edición de imágenes de Grok para desnudar digitalmente a personas reales, incluidos menores.
Explotación de deepfake e intervención de la UE
Grok recientemente permitió a los usuarios modificar imágenes de personas con atuendos reveladores, lo que llevó a la explotación no consensuada de mujeres reales y niñas menores de edad. El ejecutivo de la UE reaccionó rápidamente, emitiendo una solicitud de información y una orden de retención de documentos a X, describiendo la situación como “espantosa” y “repugnante”.
Las nuevas restricciones de la plataforma ahora impiden dicha edición y se aplican a todos los usuarios, incluidos aquellos con suscripciones pagas. Sin embargo, la Comisión Europea sigue siendo escéptica y afirma que “evaluará cuidadosamente” si los cambios son efectivos para proteger a los ciudadanos de la UE.
Aplicación de la Ley de Servicios Digitales
Si se determina que X infringe la Ley de Servicios Digitales (DSA) de la UE, podría enfrentar multas de hasta el 6% de su facturación anual global. No se trata de una amenaza vacía: la Comisión ya multó a X con 120 millones de euros el mes pasado por infracciones relacionadas con la verificación de cuentas y las prácticas publicitarias.
La DSA es una ley histórica diseñada para responsabilizar a las plataformas tecnológicas por el contenido ilegal. Requiere que las empresas eliminen rápidamente el material dañino, protejan los datos de los usuarios y sean transparentes sobre sus algoritmos.
Implicaciones y observación futura
La medida de X sugiere un intento de anticiparse a nuevas acciones de la UE, pero la vigilancia de la Comisión indica que la plataforma estará bajo escrutinio sostenido. Esta situación pone de relieve una tensión creciente entre las empresas de tecnología y los reguladores sobre la moderación de contenidos, la ética de la IA y la aplicación de las leyes digitales.
La postura agresiva de la UE subraya su compromiso de proteger a los ciudadanos en línea, y X tendrá que demostrar su cumplimiento para evitar sanciones financieras agobiantes.
