- Unión Europea investiga a Grok por difundir imágenes sexualizadas; podría enfrentar multas millonarias
Redacción Macronews.- La Unión Europea abrió una investigación formal contra la red social X, propiedad de Elon Musk, luego de que su chatbot de inteligencia artificial Grok comenzara a generar y difundir imágenes sexualizadas no consensuadas, algunas de ellas manipuladas digitalmente con rostros de personas reales, incluyendo posibles menores de edad.
Los reguladores europeos señalaron que estas prácticas podrían violar la Ley de Servicios Digitales (DSA, por sus siglas en inglés), al permitir la circulación de contenido ilegal como imágenes sexualmente explícitas manipuladas, lo que expone a los ciudadanos a daños graves. La Comisión Europea subrayó que los riesgos asociados a Grok “ya se materializaron”, por lo que el caso será analizado a profundidad.
Además, Bruselas amplió una investigación previa sobre los sistemas de recomendación de X, después de que la plataforma anunciara que utilizará a Grok para decidir qué publicaciones se muestran a los usuarios, lo que incrementa la preocupación sobre el alcance del contenido dañino.
leer: DESTRUYE EL INE QUINTANA ROO MÁS DE 25 MIL CREDENCIALES PARA VOTAR
Imágenes manipuladas, menores y presión internacional
La polémica estalló luego de que usuarios utilizaran las herramientas de generación y edición de imágenes de Grok para crear fotografías de mujeres con ropa transparente o reveladora, así como montajes en los que aparecían personas reales sin su consentimiento. Investigadores alertaron que algunas imágenes podrían involucrar a menores, lo que elevó la gravedad del caso.
Ante la situación, varios gobiernos emitieron advertencias y Malasia e Indonesia bloquearon temporalmente el acceso a Grok, convirtiéndose en los primeros países en aplicar restricciones. Malasia levantó el bloqueo días después, tras asegurar que X implementó nuevas medidas de seguridad, aunque continuará monitoreando el servicio.
La Comisión Europea evaluará si X ha cumplido con sus obligaciones para proteger a los usuarios, en particular a mujeres y niños. La vicepresidenta ejecutiva del bloque, Henna Virkkunen, afirmó que los deepfakes sexuales no consensuados son una forma de violencia digital, y advirtió que el caso podría terminar en compromisos obligatorios o multas significativas.
