Emma Watson ha sido protagonista de una campaña de deepfake en la que la actriz veía como su cara, alterada digitalmente, se incrustaba en un vídeo de carácter pornográfico. El clip apareció en los últimos días en redes como Facebook e Instagram, indicando las características de una app, FaceMega, que permite sustituir el rostro de una persona en cualquier vídeo gracias a la inteligencia artificial. Las redes sociales se han inundado de clips falsos con el rostro de la citada Watson o la propia Scarlett Johansson.
Una campaña de una app de deepfake que vuelve a alertar de los vídeos pornográficos con inteligencia artificial
En menos de 24 horas, las secuencias de contenido sexual aparecieron en redes como Facebook e Instagram como parte de una campaña publicitaria de una app de deepfake conocida como FaceMega. Muchos usuarios alertaron a los responsables de contenidos de las redes sociales de lo que estaba sucediendo, dando la voz de alarma los moderadores y explicaron que la app estaba usando contenido sexual con los rostros de Watson o Scarlet Johansson, entre otras actrices, para promocionar las posibilidades de la herramienta.
i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb
— lauren (@laurenbarton03) March 6, 2023
La tecnología no es especialmente avanzada, pero debido a lo rápido que opera la app y las técnicas que se emplean en el algoritmo de sustitución de rostros, es difícil de diferenciar de una imagen real. Eso ya sucedió con el polémico deepfake de Tom Cruise, que llegó a confundir a millones de personas. En este caso particular la situación es incluso más peligrosa, pues los rostros de varias actrices famosas fueron usados sin su consentimiento para introducirlas en clips de alto contenido sexual. Como explican en NBC News la situación fue tal que en horas, los anuncios estaban por todas partes, demostrando que los filtros de la empresa de Mark Zuckerberg no funcionan como dicen.
FaceMega, es una app de suscripción que, por ocho dólares a la semana, permite a los usuarios intercambiar las caras de cualquier persona en un video con fotos cargadas en la aplicación. La herramienta hace uso del llamado machine learning y de la inteligencia artificial de cara a recrear facciones humanas con gran realismo en base a fotografías, microgestos y expresiones propias de cientos de actores y actrices. En cintas como Star Wars o en series como Stranger Things, en la que se ha rejuvenecido a una actriz para que parezca la Millie Bobby Brown más joven, son métodos muy establecidos. Pero puede ser usada con fines aviesos, así como como forma de atentar contra la intimidad y el honor de una persona. Al parecer, FaceMega ha retirado la app de varias tiendas, ya no se puede descargar de App Store en iPhone o iPad, pero sigue disponible en Google Play Store.
"Esto podría usarse con estudiantes de secundaria en escuelas públicas que son acosados. Podría arruinar la vida de alguien. Podrían meterse en problemas en su trabajo. Y esto es extremadamente fácil de hacer y gratis. Todo lo que tenía que hacer era subir una foto de mi cara y tenía acceso a 50 plantillas gratuitas", comentaban usuarios citados por NBC News. Aunque en la app se hace hincapié en que solo se debe usar para clips divertidos y no en vídeos que intenten hacer daño o engañar, la promoción de la herramienta parecía hacer exactamente lo contrario. Meta ha destacado que esta app, de origen chino, ha sido restringida en la red social tras estudiar el caso.
