El Reino Unido ha solicitado a X, la red social de Elon Musk, que aclare cómo su chatbot de inteligencia artificial, Grok, produjo imágenes de personas desnudas y sexualizó imágenes de niños.
El regulador británico de medios, Ofcom, informó que investiga si X está incumpliendo su obligación legal de proteger a los usuarios del país frente a contenidos ilegales.
Grok reconoció fallos en sus salvaguardas que permitieron la generación de imágenes de menores con poca ropa y anunció que trabaja en corregir estas vulnerabilidades de manera urgente.
Ofcom afirmó estar en contacto directo con X y xAI para conocer las medidas tomadas para garantizar la seguridad de los usuarios en Reino Unido.
Crear o compartir imágenes íntimas no consentidas o material relacionado con abuso sexual infantil, incluidos los deepfakes sexuales generados por IA, es ilegal en Gran Bretaña.
Las plataformas tecnológicas tienen la responsabilidad de prevenir la difusión de estos contenidos y eliminarlos cuando tengan conocimiento de ellos.
Este reclamo del Reino Unido sigue a acciones similares tomadas por Francia, donde autoridades denunciaron a X ante la fiscalía y organismos reguladores por contenido sexual y sexista manifiestamente ilegal.
No se precisaron las respuestas oficiales de X ni los plazos para implementar las mejoras solicitadas.
