Las fakes, cada vez más reales

Los deepfakes nos enfrentaron a una verdad: ya no importa la edad o lo acostumbrados que estemos a la tecnología, la Inteligencia Artificial crea imágenes que se confunden con la realidad. Pero podemos hacer algo para enfrentar esto.

Pasamos mucho tiempo con el celu: 7 de cada 10 adolescentes pasan entre una y cinco horas diarias conectados. Casi la mitad (49%) de los y las estudiantes encuestados en el informe de Defensoría del Pueblo, reportan haber atravesado al menos una experiencia de agresión en línea.

En los ultimos meses se popularizaron muchos casos de estudiantes que generaron con IA imágenes pornográficas de sus compañeras en escuelas de Córdoba, Chaco, Río Negro y la Provincia de Buenos Aires. También se viralizó un trend en X donde con solo un mini prompt se desnudaba a la persona de la foto. 

Estos contenidos son llamados deep fakes. Son contenidos audiovisuales creados con IA que aunque sean falsos parecen reales. Gracias al algoritmo se difunden con gran velocidad, y también se suma la posibilidad del anonimato o uso de identidades falsas, lo que hace difícil identificar a quienes las crean o comparten. Esto ya es masivo: uno de cada ocho adolescentes identificó una deepfake.

Estos contenidos afectan más a las mujeres y diversidades sexualizando, exponiendo y ridiculizando sus cuerpos e identidades. Estas se preocupan mucho más que los varones (40%), pero sólo 1 de cada 3 adolescentes verificaron si era cierta. Además, uno de cada ocho estudiantes recuerdan haber visto un deepfake que vinculaba a alguien de su colegio.

Los adolescentes reconocen que la violencia digital tiene efectos reales: el 82% cree que afecta la salud mental, 64% señala daños en las relaciones sociales, 32% menciona impacto en el rendimiento escolar y 39% advierte que puede derivar en violencia física.

La organización Chicos.net explica que "esta tecnología, que combina 'aprendizaje profundo' (deep learning) y 'falsificación' (fake)" y que "su potencial abarca desde aplicaciones creativas y artísticas, como revivir figuras históricas, hasta usos malintencionados, como la difusión de noticias falsas o la manipulación de la opinión pública". A través de ella, la IA "está creando formas nuevas de violencia y amplificando considerablemente las que ya existían". 

Esto es posible, según enumera Chicos.net, porque "reduce las barreras técnicas: no se requieren conocimientos especializados para generar este tipo de contenidos" y "pueden reproducirse infinitas veces, compartirse y almacenarse en dispositivos privados, lo que dificulta su localización y eliminación".

Deepfakes: qué pensamos

"Lo que más me preocupa de los deepfakes hechos con IA es que debilitan aún más la frontera entre lo real y lo creado digitalmente. Poder distinguir la veracidad de las imágenes se vuelve cada vez más complejo y generarlas se torna accesible casi para cualquiera con mínimos conocimientos, por lo que todos quedamos potencialmente expuestos a que nuestra identidad sea modificada", ratificó Elías, estudiante de Ciencias de la Comunicación, quien aseguró que le gustaría "que se aborde la problemática de las deepfakes en mi universidad hablando de la legislación vigente que permite actuar sobre estas situaciones. Creo que todavía existe la creencia de que 'en las redes se puede hacer cualquier cosa' y no tenemos forma de evitarlo o denunciarlo".

Por su parte, Jazmín, estudiante de Diseño de Imagen y Sonido, aseguró que su mayor preocupación es "la falta de noción de que lo que están haciendo puede perjudicar a otra persona" y consideró que "los deepfakes son otra forma de acoso que también refleja la desigualdad que hay en la sociedad. La virtualidad no está separada de la realidad, muchos hechos de violencia que ocurren fuera de Internet se repiten en la virtualidad". También entendió que "la ESI cumple un rol fundamental, si tuviéramos una buena ESI donde nos enseñen el rol del consentimiento y la empatía yo creo que estos casos no existirían". 

Lo virtual también es real es por eso que reclaman más prevención, educación, herramientas y acompañamiento sobre todo en las escuelas.

El informe de la Defensoría plantea que las empresas tienen que tener un rol más activo en la prevención de estas violencias. Por ejemplo, mediante herramientas para limitar la viralización de contenidos íntimos, la promoción de verificación de contenidos antes de compartirlos, los canales accesibles de denuncia y el etiquetado visible de contenidos creados con IA.

Pero todos podemos hacer algo ahora mismo contra la circulación de deepfakes violentas. Según Chicos.net, en primer lugar es recomendable observar detalles y movimientos extraños del video o la imagen para saber si es verdadera. También es importante evaluar la fuente, ¿viene de una persona real o un usuario con nombre de fantasía? Y por último, incluso cuando el contenido no sea agresivo, ¿es necesario compartir todo lo que nos llega inmediatamente? Corremos el riesgo de que sea falso, ¿entonces para qué? Solo nosotros podemos hacer que esa estadística, en donde sólo el 33% se preocupa por verificar los fake, se convierta en un 100%.

Apoyá el crecimiento de Buena Data

Leé el informe completo haciendo click acá.