De acuerdo a un informe, el chatbot Grok, de la empresa xAI de Elon Musk, generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días, dijeron investigadores, al revelar la magnitud del contenido explícito que causó indignación mundial.

Grok, que está integrada a la red social X, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como “ponla en bikini” o “sácale la ropa”.

Una avalancha de imágenes hiperrealistas falsas (deepfakes) inundaron internet, lo que causó que varios países prohiban Grok y despertó la indignación de los entes reguladores y las víctimas.

El Centro para Combatir el Odio Digital (CCDH), mencionó que se tiene estimado que la herramienta de IA Grok generó cerca de tres millones de imágenes sexualizadas, incluidas 23,000 que parecen representar a menores, tras el lanzamiento en X de una nueva función de edición de imágenes.

El Centro para Combatir el Odio Digital (CCDH), es un observatorio que investiga los efectos dañinos de la desinformación en internet.

Recalcó que Grok creó ese volumen de imágenes hiperrealistas en un periodo de 11 días, es decir un promedio de 190 por minuto, según el reporte, que no especifica cuántas fueron creadas sin el consentimiento de las personas.

Identificó la sexualización de imágenes de la actriz Selena Gomez y las cantantes Taylor Swift y Nicki Minaj, así como de figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris.

“Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual”, dijo Imran Ahmed, director ejecutivo del CCDH.

La semana pasada, X anunció que bloqueará la capacidad de crear este tipo de imágenes a todos los usuarios en Grok y X en las jurisdicciones donde esas acciones sean ilegales.

Países como Filipinas, Malasia e Indonesia prohibieron Grok, mientras Reino Unido y Francia mantienen presión sobre la empresa.

El fiscal general de California inició una investigación sobre xAI por el material sexualmente explícito, y varios países abrieron sus propias pesquisas.