México.- La Comisión Europea ha subido el tono en su batalla legal contra la plataforma X (antes Twitter), anunciando este lunes el inicio de una investigación formal por la producción y difusión de material sexualmente explícito y posible contenido de abuso sexual infantil generado por su chatbot de inteligencia artificial, Grok.
La investigación, amparada en la Ley de Servicios Digitales (DSA) de la Unión Europea, no solo pone la lupa sobre la IA de Musk, sino que amplía el escrutinio sobre los algoritmos de recomendación que la plataforma utiliza para filtrar información a sus usuarios.
El factor Grok: 3 millones de imágenes bajo sospecha
Investigadores del Centro para la Lucha contra el Odio Digital han presentado datos alarmantes: en menos de dos semanas, Grok generó cerca de 3 millones de imágenes sexualizadas, incluyendo 23,000 que involucraban a menores. El sistema permitía a los usuarios «desnudar digitalmente» a mujeres y niños mediante herramientas de edición asistida por IA.
Henna Virkkunen, responsable de soberanía tecnológica de la Comisión, fue tajante:
«Las falsificaciones sexuales no consentidas son una forma de degradación violenta e inaceptable. Determinaremos si X trató los derechos de los ciudadanos europeos como daños colaterales de su servicio».
Aunque X intentó frenar las críticas restringiendo Grok a suscriptores de pago y bloqueando la edición de ropa en fotos de personas reales, los reguladores europeos consideran que estas medidas son insuficientes.
La Comisión afirma que X no cuenta con «medidas de mitigación efectivas» para reducir el riesgo de violencia contra las mujeres y la explotación infantil.
Preocupa que X esté pasando a un modelo de recomendación basado en Grok, lo que podría amplificar la difusión de contenido ilegal de forma automática.
Esta nueva ofensiva legal llega apenas un mes después de que la UE multara a X con 120 millones de euros por prácticas engañosas en sus «marcas azules» y falta de transparencia publicitaria. En aquella ocasión, Elon Musk respondió calificando el anuncio como «tonterías» y sugiriendo la abolición de la Unión Europea.
Pese a la contundencia del anuncio, algunas voces dentro del Parlamento Europeo, como la eurodiputada Alexandra Geese, señalan que la intervención llega «demasiado tarde» ante un daño que consideran «irreparable» para millones de mujeres. Por su parte, funcionarios de la UE defienden su gestión recordando que ya existen 15 investigaciones en curso bajo la DSA desde febrero de 2024.
En respuesta oficial, X se remitió a una declaración previa donde aseguran tener «tolerancia cero» ante la explotación sexual infantil, aunque no han dado detalles técnicos que disipen las dudas de los reguladores europeos.
