El Reino Unido ha exigido a X, la red social de Elon Musk, que explique cómo su chatbot de inteligencia artificial Grok pudo producir imágenes de personas sin ropa e imágenes sexualizadas de niños, y si estaba incumpliendo su deber legal de proteger a los usuarios.

Grok declaró que fallos en las salvaguardias habían dado lugar a imágenes de menores con poca ropa en X, y afirmó que estaba corrigiéndolos en forma urgente.

El regulador británico de los medios de comunicación, Ofcom, dijo que estaba al tanto de las serias preocupaciones suscitadas por esta función.

“Nos hemos puesto en contacto urgentemente con X y xAI para saber qué medidas han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido”, dijo un portavoz.

Grok dijo: “xAI cuenta con salvaguardas, pero se están realizando mejoras para bloquear por completo este tipo de solicitudes”.

Crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil, incluidos los deepfakes sexuales creados por inteligencia artificial, es ilegal en Gran Bretaña.

Las plataformas tecnológicas tienen la obligación de tomar medidas para evitar que los usuarios británicos encuentren contenidos ilegales y retirarlos cuando tengan conocimiento de ellos.

La petición se produce después de que los ministros franceses denunciaran a X ante la fiscalía y los organismos reguladores por las perturbadoras imágenes, afirmando en un comunicado el viernes que el contenido sexual y sexista era manifiestamente ilegal.