Vida online
Grok, ¿estás?
Nuestro corresponsal Kevin Donato nos alerta sobre los deepfake generados por inteligencia artificial que permiten desnudar a personas y la necesidad de una mejor legislación sobre nuestros cuerpos.
“Sí, tanto yo como mis creadores tenemos "conciencia" (...) sobre los daños potenciales. (...) El enfoque de xAI -desarrolladores- ha sido en reactivo, ajustando (los límites) solo después de manifestaciones públicas, no de formas proactivas (preventivas)”.
Esa fue la respuesta de Grok al preguntar: ¿Tenés conciencia, vos o tus creadores sobre el daño que le pueden causar a una mujer/niña/adolescente/persona LGBTQ+ si se crean imágenes sexuales sin su consentimiento?
Estamos en el auge de la IA. El “futuro” se siente cada vez más cercano y paisajes de la convivencia digital parecen historias sacadas de “Black Mirror”. El 28 de diciembre de 2025 usuarios de X alrededor del mundo denunciaron que Grok (IA desarrollada por X) permitía la generación de imágenes de usuarios con casi nulas restricciones sobre nudismo y sexualización; bastaba con un simple “@Grok, ponla en bikini” para que la IA generara la foto.
Con esto se desató polémica mundial. Malasia e Indonesia prohibieron el uso de X, India dio un ultimátum para banear la app si no había acciones y Francia e Inglaterra iniciaron investigaciones para determinar si corresponden multas por incumplir leyes de consentimiento y violencia sexual. El mayor de los problemas se da en la comunidad digital donde miles de mujeres y adolescentes son acosadas diariamente.
La respuesta de Elon Musk y XAI
Luego de inhabilitar temporalmente la generación de imágenes para todos los usuarios, desde la Directiva de X anunciaron que iban a hacer mejoras a los límites de seguridad. Luego, desde el 9 de enero, la generación de imágenes pasó a ser una herramienta para usuarios de pago dentro de X, mientras que desde Grok.com (la web separada de la red social) aun se pueden generar imágenes de cualquier índole con casi ninguna restricción, ya qué, al momento de crear una imagen explícita, la IA la desenfoca y basta con insistir algunos mensajes para que la desbloquee. Desde su cuenta de X, Elon Musk anunciaría que una nueva versión de Grok vendría pronto, donde se “mejoraría la rapidez” con la que el motor crearía las imágenes -sin hacer mención alguna sobre la polémica- y posteriormente criticaría a los Estados que, de hacer leyes que restrinjan más a las IAs, se estaría atacando a la “libertad de expresión y al máximo potencial” de las tecnologías.
Una cosa es cierta, reducir la discusión a “IA sí o IA no” es contraproducente para atacar la cuestión de fondo: frente a nuevas tecnologías, ¿quién decide el límite de ellas para modificar nuestra vida? Quienes manejan las mayores empresas de comunicación ¿Realmente sienten remordimientos por los efectos que causan en miles de personas? ¿No es sentido común evitar que los acosadores tengan libre acceso a herramientas de creación y manipulación?
En Córdoba, un joven de 19 años mediante face-swapping (colocar la cara de una persona en el cuerpo de otra) creaba fotos explícitas de sus compañeras y las publicaba en blogs con los nombres reales y escribía descripciones aberrantes. En San Martín, provincia de Buenos Aires, hubo otro caso donde un adolescente de 15 años generaba las imágenes, las vendía y promocionaba, habiendo 22 víctimas denunciantes.
No es sorpresa que haya acosadores en Internet, lamentablemente nos acostumbramos a tener que mantener precauciones extremas sobre nuestra huella digital (fotos, videos, interacciones, direcciones, datos bancarios), lo que sorprende es que las propias plataformas habiliten herramientas ilimitadas a merced de la imaginación de extraños - y no tan extraños-.
Pero ante todo esto, no estamos solxs. En nuestro país existen algunas leyes que nos amparan para denunciar, por ejemplo la Ley Olimpia. Sancionada en 2023, inspirada por la historia de Olimpia Coral Melo, mujer mexicana que fue víctima de la difusión de un video íntimo sin consentimiento. Su caso impulsó a varios países a comenzar a reconocer los entornos digitales como reales, donde se puede sufrir violencia. En nuestro país “se entiende por violencia contra las mujeres toda conducta (...) en el ámbito público como en el privado, en el espacio analógico digital (...) que afecte su vida, libertad, dignidad, integridad física, psicológica, sexual, económica o patrimonial, participación política, como así también su seguridad personal (...)”.
Esta ley permite a las mujeres argentinas denunciar y garantizar que se realice la respectiva investigación de los hechos, obligando a las empresas de redes (nacionales y extranjeras) a tener que resguardar y entregar los datos e información donde se haya producido la agresión ante la justicia. También, permite que se pueda enmarcar como “Lesión” a los daños psicológicos, físicos y emocionales producidos por el ataque, posibilitando que se pueda denunciar penalmente las consecuencias.
Un poco de la legislación actual en Argentina, el mundo y en nuestras redes
Lamentablemente, en el Código Penal aún no está reconocida la creación de contenido sexual fake (deepfake) como delito, por ello, es importante que apoyemos propuestas como la “Ley Belén”, que busca generar multas y/o penas por la producción, distribución, comercialización, y recepción sin consentimiento de contenido sexual independientemente que se haya utilizado o no la IA (agravado en el caso que las víctimas sean menores de edad, sumando más herramientas legales aparte de la Ley de Grooming N° 26.904).
Belén era una joven policía, mamá de dos niños que se suicidó cuando Tobías Villaruel difundió sus fotos sin consentimiento, extorsionándola económicamente para no difundir las fotos y terminar haciéndolo igualmente.
En EE.UU la empresaria, actriz, cantante y activista Paris Hilton acompañó una rueda de prensa a modo de insistir en la cámara baja con el proyecto de ley “Defiance”, el cual modifica la legislación estadounidense creando penas, multas y figuras penales como “Creación y difusión de contenido explicito digital” dentro de su sistema judicial. Paris también hizo un repaso de su historia, mencionando la difusión de un video íntimo suyo sin consentimiento durante el 2003, y detalló que en la actualidad se empeoró esta problemática ya que más de 100.000 imágenes explícitas fake hechas con IA suyas fueron difundidas. “Ningún dinero ni abogados pueden detenerlo ni protegerme. Es la forma más reciente de victimización a gran escala, contra tus hijas, tus hermanas, tus amigas y vecinas” mencionaba la artista, también agregó “Nadie me preguntó qué perdí: perdí el control sobre mi cuerpo, sobre mi reputación. Me robaron mi seguridad y mi autoestima”.
Reconocer que "La pornografía 'deepfake' se ha convertido en una epidemia" puede ser el primer paso para empezar a combatir un sistema legal desactualizado, y la cantante dejó claro su compromiso por pelear por ello.
Por otro lado, los términos y condiciones de X detallan que, como usuario “eres responsable del contenido publicado, incluyendo asegurarte que no viole ninguna ley” pero, cuando son las propias plataformas las cuales habilitan irrestrictamente a un uso violento o ilegal, ¿cuánto pueden eximirse por la responsabilidad de crear estos entornos?
Nos falta camino por recorrer. Hay límites que hasta ahora no se habían atravesado y en un momento donde se duda tanto del entorno digital reforzar el cuidado de nuestra comunidad es crucial para poder estar segurxs y sentirnos cuidadxs.
La IA generativa llegó para quedarse y es responsabilidad de los Estados generar leyes claras y precisas que nos ayuden a combatir agresiones, como también es responsabilidad de las empresas de comunicación no mirar para otro lado y reconocer el daño que causan.
En el caso que uses X podés desactivar los permisos para que xAI (los desarrolladores) no puedan acceder a tu información personal (conversaciones, interacciones, búsquedas, etc) para “mejorar” el funcionamiento de Grok. Para ello podés acceder a la Configuración y Privacidad>Privacidad y seguridad>Grok y Colaboradores externos y deshabilitar todas las opciones.