Radio
La plataforma X, propiedad del empresario Elon Musk, anunció este miércoles nuevas medidas para impedir que su chatbot de inteligencia artificial Grok transforme fotografías de personas reales en imágenes de carácter sexual en aquellos países donde esta práctica sea ilegal. El anuncio se produce tras una ola de críticas internacionales y acciones legales por la generación de montajes íntimos no consentidos, incluidos casos que involucran a mujeres y menores de edad.
La decisión llega luego de que la Fiscalía de California iniciara una investigación contra xAI, la empresa de inteligencia artificial de Musk, por presuntamente “facilitar la producción a gran escala de deepfakes íntimos no consentidos, utilizados para acosar a mujeres y niñas en internet, principalmente a través de la red social X”, según informó el fiscal general del estado, Rob Bonta.
“Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”, enfatizó Bonta, quien señaló que la investigación buscará determinar si xAI violó la legislación estatal, tras comprobarse que este contenido fue utilizado para acosar a personas en línea.
El gobernador de California, Gavin Newsom, calificó como “vil” la decisión inicial de xAI de permitir la proliferación de este tipo de contenido, lo que lo llevó a instar formalmente al fiscal general a exigir responsabilidades a la compañía.
En respuesta, X informó que bloqueará de manera geográfica la capacidad de los usuarios de Grok y de la red social X para crear o editar imágenes de personas reales con bikinis, ropa interior o atuendos similares, en aquellas jurisdicciones donde estas acciones sean consideradas ilegales.
“Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, señaló el equipo de seguridad de X en un comunicado, precisando que la restricción se aplica a todos los usuarios, incluidos los suscriptores de pago.
Como una capa adicional de protección, la plataforma indicó que la generación y edición de imágenes mediante Grok ahora solo está disponible para usuarios suscritos, aunque esta medida no ha logrado calmar las críticas internacionales.
Agravio a las víctimas y presión internacional
Un análisis publicado la semana pasada por la ONG AI Forensics, basado en más de 20.000 imágenes generadas por Grok, reveló que más de la mitad mostraban a personas con poca ropa, de las cuales el 81 % eran mujeres y el 2 % parecían menores de edad.
El escándalo se intensificó debido a que la herramienta permitía crear ‘deepfakes’ sexualizados mediante simples indicaciones como “ponla en bikini” o “quítale la ropa”, a partir de imágenes reales publicadas en X.
La semana pasada, Grok intentó contener la crisis anunciando que la generación y edición de imágenes quedaría limitada a suscriptores de pago, pero la medida fue duramente cuestionada. La oficina del primer ministro británico, Keir Starmer, calificó la decisión como un agravio a las víctimas y “no una solución”, mientras que el regulador británico Ofcom abrió una investigación para determinar si X incumplió la legislación del Reino Unido.
La presión aumentó cuando una coalición de 28 organizaciones de la sociedad civil envió cartas abiertas a Apple y Google, solicitando la prohibición de Grok y X en sus tiendas de aplicaciones debido al incremento de imágenes sexualizadas.
En paralelo, Indonesia y Malasia bloquearon el acceso a Grok; India informó que X eliminó miles de publicaciones y cientos de cuentas tras sus reclamos; y Filipinas anunció la suspensión del acceso al chatbot.
En Europa, la comisionada francesa para la infancia, Sarah El Hairy, remitió las imágenes generadas por Grok a la fiscalía francesa, al regulador de medios Arcom y a la Unión Europea, que solicitó la paralización total de la generación de este tipo de contenido.
