En la actualidad, donde la tecnología avanza a pasos agigantados, surgen nuevas formas de comunicación y, lamentablemente, también de acoso. Una de las manifestaciones más preocupantes en este contexto es el "deepfake sexual", un fenómeno que está ganando notoriedad y que plantea serias preocupaciones éticas y legales.
Un informe reciente revela que ha habido un alarmante aumento del 464% en la creación de deepfakes de contenido audiovisual manipulado, específicamente vídeos pornográficos, entre 2022 y 2023. Desde su aparición hace aproximadamente cinco años, estos contenidos maliciosos se han utilizado de manera constante para acosar a las mujeres. Además, con los avances recientes en tecnologías de inteligencia artificial, como el aprendizaje automático, la proliferación de estas representaciones falsas que suplantan a personas es cada vez más evidente en la web.
Este incremento ha generado un desafío adicional para los motores de búsqueda, que luchan constantemente por eliminar estas representaciones falsas y explícitas, las cuales siguen circulando a pesar de las medidas actuales.
Podría interesarte leer: Explorando las Profundidades de Internet: Deepweb vs Darkweb
Un deepfake sexual es un tipo de contenido generado mediante inteligencia artificial y técnicas de aprendizaje profundo (deep learning) para crear vídeos o imágenes falsas pero altamente realistas, donde se sustituye el rostro de una persona por otro. En el contexto sexual, estos deepfakes involucran usualmente la superposición del rostro de una persona, a menudo sin su consentimiento, en un cuerpo desnudo o en pleno acto sexual.
Conoce más sobre: Entendiendo los Desafíos de los Deepfakes
El fenómeno de los deepfakes ha tenido un impacto tan significativo que figuras como Emma Watson, Natalie Portman, Scarlett Johansson y Rosalía han hecho denuncias de ser víctimas de imágenes falsas generadas con inteligencia artificial.
Es importante recordar que esta modalidad de manipulación de video, imagen y audio afecta principalmente a mujeres y menores de edad, quienes ven vulnerada su imagen y su dignidad personal. Esto tiene un impacto psicológico considerable, ya que estas representaciones de prácticas sexuales, aunque nunca ocurrieron, son extremadamente realistas según los expertos.
La gravedad del problema se refleja en que el 98% de las imágenes falsas que circulan en internet son de naturaleza sexual, según el informe reciente. Además, el 99% del contenido pornográfico falso compromete a personas del género femenino.
Te podrá interesar: Inteligencia Artificial en 2024: Espada doble filo en Ciberseguridad
Identificar un deepfake puede resultar extremadamente desafiante, ya que estos contenidos pueden parecer sorprendentemente auténticos. Incluso una plataforma especializada en seguridad y bienestar digital, advierte que existen aplicaciones capaces de modificar el contenido de manera tan convincente que puede inducir al engaño.
La principal amenaza radica en la facilidad con la que cualquier individuo, especialmente los jóvenes, puede acceder y utilizar estas herramientas sin requerir conocimientos informáticos avanzados.
Afortunadamente, existen ciertas características y errores sutiles que suelen manifestarse en los deepfakes, lo que facilita su identificación. Estos detalles suelen relacionarse con los rasgos faciales, como el número de parpadeos en los videos, que tienden a ser escasos y poco naturales.
La observación de aspectos físicos del cuerpo, particularmente las manos, que son difíciles de replicar, también puede ayudar en la detección de deepfakes. Además, prestar atención a la duración del video, la sincronización del sonido, el interior de la boca y las posibles incoherencias en el discurso, así como la fuente de origen de las imágenes, son indicadores clave.
Es importante destacar que las principales empresas tecnológicas están desarrollando mecanismos basados en inteligencia artificial para detectar estas manipulaciones, lo que añade una capa adicional de protección contra los deepfakes.
También te podrá interesar leer: Fraude CEO: Detectando y Mitigando esta Amenaza
Los deepfakes sexuales representan una forma preocupante de acoso en línea que combina la tecnología avanzada con la intención de dañar. Es esencial que la sociedad, plataformas digitales, educadores y usuarios, trabajen unidos para combatir esta problemática. A través de una combinación de legislación adecuada, tecnología de detección avanzada, educación y concienciación, podemos esperar reducir la prevalencia y el impacto de estos deepfakes dañinos.