Meta enfrenta nuevas críticas por la forma en que combate el contenido manipulado con inteligencia artificial. Su Consejo de Supervisión consideró “sistemática y fundamentalmente insuficientes” las medidas de la compañía para hacer frente a la creciente circulación de deepfakes en plataformas como Facebook e Instagram.

El organismo ordenó retirar dos videos generados o manipulados mediante IA que tenían como objetivo a dos mujeres. Uno de ellos mostraba falsamente a una concejala del Partido Laborista en Escocia realizando comentarios ofensivos contra refugiados. El material no tenía respaldo en declaraciones reales de la política y presentaba señales de manipulación, entre ellas una falta de sincronización entre el audio y los movimientos de sus labios.

El segundo video fue utilizado para ridiculizar a una joven activista musulmana dedicada a promover la educación sobre salud menstrual. Las imágenes manipuladas buscaban desacreditarla al mostrarla realizando acciones y expresando consejos que nunca había dado. El Consejo señaló que este tipo de contenido puede convertirse en una herramienta de acoso particularmente dañina para mujeres que participan en el debate público.

El Consejo de Supervisión determinó que ambos casos contravenían las propias normas de Meta relacionadas con incitación al odio, acoso y contenido engañoso, por lo que la empresa deberá cumplir las decisiones de retirar los materiales.

Además, el organismo reclamó cambios más amplios en las políticas de la compañía. Entre sus recomendaciones se encuentran un etiquetado más claro para contenidos de alto riesgo generados con IA, mayores restricciones a su difusión y sanciones más severas para usuarios reincidentes.

La copresidenta del Consejo, Pamela San Martin, advirtió que los casos forman parte de un patrón más amplio en el que mujeres que participan públicamente en asuntos sociales son blanco de campañas de acoso y desinformación mediante contenidos manipulados.

Meta está obligada a cumplir las decisiones del Consejo de Supervisión en casos individuales, aunque las recomendaciones generales de política no tienen el mismo carácter vinculante. La empresa informó que acataría la decisión sobre los videos dentro del plazo establecido.

El episodio vuelve a poner bajo la lupa el desafío que representan los deepfakes: contenidos capaces de presentar como reales declaraciones, imágenes o acciones que nunca ocurrieron y que pueden difundirse rápidamente antes de que las plataformas o los usuarios logren identificarlos.

La discusión ocurre además mientras Meta continúa modificando su sistema de moderación. Recientemente, el Consejo recomendó que la compañía no sustituyera completamente su servicio profesional de verificación de datos por las llamadas “notas de la comunidad”, mecanismo que Meta comenzó a probar en países de América Latina.