X limita las funciones de Grok tras las polémicas por imágenes sexualizadas

Elon Musk aplica nuevas restricciones al chatbot de inteligencia artificial tras las denuncias por la creación de contenido sugerente con personas reales.

X (la antigua Twitter) ha anunciado nuevas medidas para evitar que Grok, su chatbot de inteligencia artificial, pueda seguir generando imágenes sexualizadas a partir de fotografías reales. La compañía asegura que ha implementado bloqueos tecnológicos para impedir que los usuarios —incluidos los suscriptores de pago— editen imágenes de personas reales “con ropa reveladora, como bikinis o ropa interior”.

“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora”, comunicó la cuenta oficial de seguridad de la plataforma.

La polémica que llevó a las restricciones

Las limitaciones llegan tras varios días de controversia por la capacidad de Grok para generar contenido sexualizado, incluso a partir de fotografías de mujeres, hombres y menores de edad.

Inicialmente, X anunció que solo los usuarios con cuentas gratuitas tendrían restringida esta función, pero finalmente la prohibición se aplicará a todos los perfiles, incluidos los de pago.

Según pudo comprobar el diario ABC, aún era posible crear este tipo de imágenes dentro de la versión privada de Grok en la red social hasta la mañana del jueves, pese a que no estaba disponible públicamente.

Investigación en Estados Unidos

Las medidas se producen después de que la fiscalía de California abriera una investigación contra xAI, la empresa desarrolladora de Grok y también propiedad de Elon Musk, por “facilitar la producción de montajes íntimos no consentidos” (deepfakes).

“Tenemos tolerancia cero hacia la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”, advirtió Rob Bonta, fiscal general del estado.

El objetivo de la investigación es determinar si xAI violó la ley estatal al permitir la generación masiva de este tipo de imágenes, que en muchos casos se habrían utilizado para acosar a mujeres y menores en internet.

Reacciones internacionales y bloqueos

La polémica ha provocado una oleada de reacciones en distintos países.

Una coalición de 28 organizaciones civiles ha enviado cartas abiertas a los directivos de Apple y Google, solicitando que retiren Grok y X de sus tiendas de aplicaciones. Ambas compañías prohíben las apps que generan contenido sexual explícito.

Algunos gobiernos también han tomado medidas:

• Indonesia y Malasia han bloqueado el acceso a Grok.
• India asegura que X ha eliminado miles de publicaciones y cientos de cuentas tras sus quejas.
• Reino Unido ha amenazado con vetar la aplicación.
• En España, la ministra de Juventud Sira Rego ha remitido un escrito a la Fiscalía General del Estado para que investigue el caso.

Datos preocupantes

Un análisis realizado por la organización AI Forensics, sobre más de 20.000 imágenes generadas por Grok, reveló que más de la mitad mostraban a personas con poca ropa. Del total, el 81% eran mujeres y el 2% parecían menores de edad, cifras que refuerzan la gravedad del problema y la necesidad de control sobre el uso de inteligencia artificial generativa.