¿Te has preguntado alguna vez cómo te verías si tu cara se intercambiara con la de tu amigo o la de un famoso?”

“¿Quieres verte actuando en una película o en televisión?” La descripción de una aplicación en una tienda online decía que la aplicación ofrece a los usuarios la posibilidad de crear medios sintéticos generados por inteligencia artificial, también conocidos como “deepfakes” (super falso)).

“¿Quieres ver bailar a tu mejor amigo, colega o jefe?” “¿Alguna vez has pensado en cómo te verías si tu rostro se cambiara por el de tu amigo o celebridad?”

La misma aplicación tiene diferentes anuncios en docenas de sitios web para adultos: “Puedes crear contenido pornográfico profundamente falso en un segundo”, dice el anuncio. “‘Profundamente falsificación’ con cualquiera”.

La aplicación cada vez más compleja de la tecnología es una de las complejidades del software de medios sintéticos, donde el aprendizaje automático se utiliza para modelar digitalmente rostros humanos a partir de imágenes y luego intercambiarlas en películas, que es la forma más fluida.

Según entrevistas de Reuters con empresas, investigadores, responsables políticos y activistas, esta tecnología tiene solo cuatro años y puede estar en una coyuntura crítica.

Según los expertos, es lo suficientemente avanzado como para que a los espectadores comunes les resulte difícil distinguir muchos videos falsos de la realidad, y se ha extendido hasta el punto en que casi cualquier persona con un teléfono inteligente puede usarlo sin convertirse en un experto.

Adam Dodge, abogado y fundador de la empresa de ciberseguridad EndTab, dijo: “Una vez que el punto de entrada es lo suficientemente bajo como para que no se requiera ningún esfuerzo, una persona poco sofisticada puede producir videos pornográficos ultra falsos muy complejos y no autorizados. Este es el punto de inflexión”. .

“Aquí es donde empezamos a tener problemas”, agregó.

Muchos activistas de seguridad en línea, investigadores y desarrolladores de software afirman que la clave es garantizar el consentimiento de los engañados, aunque es más fácil decirlo que hacerlo. Teniendo en cuenta el riesgo de abuso, algunas personas abogan por un enfoque más estricto cuando se trata de pornografía sintética.

Según un informe de 2019 de Sensity, una compañía que detecta y monitorea medios sintéticos, el 96% de los más de 14,000 videos “profundamente falsos” publicados en Internet son pornografía involuntaria ultra falsa. Agregó que la cantidad de videos de Deepfake en línea se duplica aproximadamente cada seis meses.

Ajder, uno de los autores del estudio y director de políticas y asociaciones de Metaphysic de IA, dijo: “La gran mayoría del daño causado actualmente por la ‘falsificación profunda’ es una forma de violencia digital basada en el género”, agregó. Su investigación muestra que millones de mujeres han sido atacadas en todo el mundo.

Por lo tanto, hay una “gran diferencia” entre si las aplicaciones se comercializan explícitamente como herramientas pornográficas, dijo.

Aplicación eliminada

ExoClick, una red de publicidad en línea utilizada por la aplicación “Make deepfake porn in a sec”, dijo a Reuters que no está familiarizada con este software de inteligencia artificial que cambia la cara.

La compañía declaró que ha suspendido los anuncios de la aplicación y no promoverá irresponsablemente la tecnología que cambia la cara.

“Este es un nuevo tipo de producto para nosotros”, dijo Bryan McDonald, director de cumplimiento de publicidad de ExoClick. Como otras grandes redes publicitarias, proporciona a los clientes un panel de sitio web donde pueden personalizar su propio sitio web. Decide dónde colocar el anuncio.

“Después de revisar los materiales de marketing, descubrimos que la redacción utilizada en los materiales de marketing era inaceptable. Estamos seguros de que la gran mayoría de los usuarios de dichas aplicaciones no las han utilizado con fines de entretenimiento, pero también reconocemos que pueden utilizarse para entretenimiento. Se utiliza con fines maliciosos “.

Otras seis grandes redes publicitarias en línea objetivo de Reuters no respondieron a las solicitudes de comentarios sobre si encontraron software “deepfake” o establecieron políticas al respecto.

La descripción en la App Store de Apple o Google Play Store no menciona el posible uso pornográfico de la aplicación, y la aplicación puede ser utilizada por cualquier persona mayor de 12 años.

Apple dijo que no tiene reglas específicas para las aplicaciones súper falsificadas, pero sus pautas más amplias prohíben que las aplicaciones incluyan contenido difamatorio, discriminatorio o que pueda humillar, intimidar o dañar a otros.

Google no respondió a una solicitud de comentarios.

Después de que Reuters se puso en contacto con Reuters sobre los anuncios de “pornografía deepfake” en sitios web para adultos, Google eliminó temporalmente la página de Play Store de la aplicación, que ha sido calificada como E o All. La página se volvió a publicar aproximadamente dos semanas después y fue calificada como adolescente con calificación T por “contenido pornográfico”.

FILTROS Y MARCAS DE AGUA

Ajder, quien aboga por el uso ético de los medios, dijo que aunque hay agentes ilegales en la industria del software en constante evolución, que cambia de rostro, los consumidores pueden usar una variedad de aplicaciones, y muchas aplicaciones toman medidas para prevenir el abuso. Grupo de la industria de futuros sintéticos.

Agregó que, por ejemplo, algunas aplicaciones solo permiten a los usuarios intercambiar imágenes en escenas preseleccionadas o requerir verificación de la identidad de la persona intercambiada, o usar inteligencia artificial para detectar cargas pornográficas, aunque estas medidas no siempre son efectivas.

Reface es una de las aplicaciones de intercambio de caras más populares del mundo. Desde 2019, la aplicación se ha descargado más de 100 millones de veces en todo el mundo. Se anima a los usuarios a intercambiar caras con celebridades, superhéroes y personajes en emojis para hacer videos divertidos.

La compañía con sede en EE. UU. Dijo a Reuters que está utilizando la revisión automática y manual de contenido, incluidos filtros pornográficos, y otros controles para evitar abusos, incluidas etiquetas y marcas de agua. El efecto visual marca el video como compuesto.

“Desde el comienzo de la tecnología, y cuando se fundó Reface, la gente se dio cuenta de que la tecnología de medios sintéticos podía ser abusada o mal utilizada”, dijo.