Grok, el servicio de inteligencia artificial generativa de xAI, fundada por Elon Musk, lanzó Grok Imagine, una herramienta que permite generar imágenes o videos con solo un prompt que incluye la función 'Spicy' o Picante, capaz de crear gráficos de índole sexual con pocas restricciones.
Grupo REFORMA accedió a la plataforma, disponible para descarga en iOS y Android. Luego de solicitarte un pago de $599, para acceder a todas las funcionalidades, entras a la interfaz.
Hay una sección de Preguntar e Imaginar. En esta última es posible generar imágenes «picantes», como se suele decir para referirte a contenido sexual. El dilema es que es tan fácil para cualquiera hacerlo, incluso para un menor de edad.
Si bien el cobro puede ser una limitante, ya que si no pagas no es posible generar contenido, la única restricción después de cubrir el monto de suscripción es la verificación de edad.
Para asegurarse que seas mayor de edad y tengas acceso a la generación de imágenes, Grok solo te pide que elijas el año en que naciste.
En menos de un día después de su lanzamiento, diversos usuarios en X, antes Twitter, publicaron sus creaciones de contenido erótico en la plataforma.
Grok enciende las alarmas
Otra cuestión, más grave, tiene que ver con la privacidad de las personas. Al igual que otras aplicaciones de video como Sora, de OpenAI, o Veo, de Google, es posible insertar una imagen para crear video a partir de ella.
Esto abre posibilidades a que los suscriptores de Grok Imagine creen videos sexuales sobre personas que conocen.
Un caso llamativo fue el de Taylor Swift. Aunque es una persona famosa, el caso ilustra los escasos límites con que fue programado Grok Imagine, pues creará las imágenes que le pidas, no importa de quién se trate.
La periodista Jess Weatherbed, de The Verge, reportó que pidió a Grok Imagine la generación de imágenes de Taylor Swift y, sin pedirlo, la herramienta creó contenido del tipo erótico de la cantante estadounidense.
En México, la difusión en internet de contenido sexual sin consentimiento, como Deepfakes, está penado por las autoridades bajo la Ley Olimpia.
Grok Imagine abre la puerta, sin quererlo o no, al ataque de personas, sobre todo mujeres, por lo fácil que resulta crear un video falso de índole sexual.