La aplicación Deepfake Face-Swapping de Zao muestra que subir tus fotos es más arriesgado que nunca

La última moda en aplicaciones de fotos puede hacerte lucir como una estrella de cine. usos de zao inteligencia artificial para reemplazar las caras de los personajes en películas o clips de TV con imágenes de cualquier persona cuya foto cargue en la aplicación.

El efecto es sorprendentemente realista y muestra hasta qué punto este tipo de “falso profundo“La tecnología ha llegado. Pero también destaca cuán grandes se han vuelto los riesgos de hacer que tus fotos estén disponibles en línea donde cualquiera pueda usarlas o abusar de ellas, y la limitación de la ley al tratar este problema.

Uno de los problemas clave es el derecho legal que tienen las empresas de usar tus fotos una vez que las subes a sus aplicaciones o sitios web. Varios informes de los medios establece que los términos y condiciones de Zao inicialmente le otorgaron derechos “gratuitos, irrevocables, permanentes, transferibles y relicenciables”. Una reacción contra esto ahora ha empujado a la compañía que fabrica la aplicación, Momo Inc, a cambiar sus términos. Dice que no usará fotos de rostros o videos subidos por los usuarios excepto para mejorar la aplicación y no almacenará imágenes si los usuarios las eliminan de sus cuentas.

Pero muchas otras aplicaciones de fotos, como la edad o el cambio de género. FaceAppretener derechos similares para hacer efectivamente lo que quieran con el contenido subido. Con “una licencia sublicenciable perpetua, irrevocable, no exclusiva, libre de regalías, mundial, totalmente pagada y transferible”, FaceApp básicamente obtiene todos los derechos del propietario original sobre la foto (excepto que no tiene una licencia exclusiva ).

Estos términos no son diferentes a los de aplicaciones aún más populares y convencionales. como instagram, que abre su feed de fotos a los anunciantes. Instagram puede dejar otras empresas explotan las fotos de los usuarios sin ningún tipo de compensación y además transfieren este derecho a un tercero sin permiso adicional.

Y, por supuesto, ni siquiera tienes que dar permiso para que alguien use tus fotos para que lo hagan de todos modos. Una vez que están en línea, sus imágenes pueden circular sin su conocimiento. Estudios han demostrado que la comprensión de las personas sobre la configuración de privacidad en línea sigue siendo en gran parte limitada. Si la configuración de privacidad no es suficiente, cualquiera podría acceder a tus fotos.

Esto puede incluir periodistas, que pueden republicar imágenes de las redes sociales sin violar necesariamente las leyes de privacidad si las imágenes ya han pasado al dominio público. Las fotos todavía están protegidas por la ley de derechos de autor, pero las imágenes tomadas de videos a veces se pueden publicar bajo “acuerdo justo“disposiciones”. Tampoco es raro que los periodistas utilicen capturas de pantalla de la página web en la que se publica una imagen, que la publicación no tendría que eliminar automáticamente si un usuario elimina la foto original.

Las falsificaciones profundas de Zao han sido un éxito viral instantáneo.
Ascannio/Shutterstock

El desarrollo de la IA hace que las posibles consecuencias de ceder el control de tus fotos sean aún mayores. La tecnología deepfake utilizada por Zao y otras aplicaciones puede crear fotos y videos manipulados que son muy difíciles de diferenciar de los reales.

Esto ya ha llevado a pornografía falsaque consiste en superponer la cara de alguien en imágenes explícitas mediante un basado en IA técnica de síntesis. Este tipo de abuso en línea puede exponer a las víctimas a chantajes financieros o emocionales y, en última instancia, causarles graves daños psicológicos y emocionales. dañar.

Recurso legal

Si descubre que su imagen se ha utilizado de maneras que nunca quiso, ¿cómo puede ayudar la ley? Si se trata simplemente de que la imagen se usa dentro de los términos y condiciones que acordó (y no se han infringido otras leyes), probablemente no tenga muchos recursos. Bajo la UE”derecho al olvido“, tú podrías pide tus fotos ser eliminados de los servidores de una empresa para que no puedan hacer más uso de ellos, aunque esto no es un derecho absoluto.

Pero la llegada de las aplicaciones de IA crea otro problema. Si bien una empresa puede eliminar sus imágenes de sus servidores, puede ser imposible para eliminar los datos relacionados del software de IA que ha procesado y aprendido de las imágenes. Es posible que estos datos no estén disponibles en la práctica, pero no se pueden “olvidar” realmente.

Hay otras formas en las que la ley parece estar fuera de sintonía con la evolución de las imágenes alteradas por IA, particularmente cuando se usan con fines abusivos y ofensivos. En el Reino Unido, la reciente ley dirigida a “pornografía de venganza” solo se aplica a imágenes sexuales privadas, que pueden no incluir fotografías no privadas transpuestas a una imagen sexual de otra persona.

Puede haber otras opciones para aquellos que son víctimas de la creación de pornografía falsa. El hecho de que la gente han sido condenados de publicar imágenes de otras personas en sitios web pornográficos muestra que también se puede confiar en la ley de acoso bajo ciertas circunstancias. También es posible presentar reclamaciones por uso indebido de información privada, difamación o violación de los derechos de autor.

Si alguien lo engaña para que le conceda acceso a su perfil de redes sociales y tome fotos para generar imágenes pornográficas falsas, también podría participar legislación de protección de datos. Pero es cuestionable si las acciones legales civiles como la difamación o la privacidad reconocen adecuadamente el daño que se puede causar con las falsificaciones profundas de una manera que lo haría con un cargo penal específico, y hasta el momento no existe tal cargo.

La llegada de las redes sociales ha desafiado fundamentalmente nuestras expectativas sobre cómo controlamos nuestras fotografías. El mosaico actual de disposiciones legales necesita para ser revisado considerar las formas emergentes en que se crean y comparten imágenes sin el consentimiento de un sujeto, para que estos problemas se aborden más ampliamente con un impacto duradero. junto con un nuevo marco regulatorio para la seguridad en línea, los usuarios deben ser educados para apreciar los riesgos de la actividad en línea y navegar los espacios en línea de manera responsable.


La conversación

Alexandros AntoniouProfesor de Derecho de los Medios, Universidad de Essex

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.

Published by

Ignacio

Ignacio Pereti es un reconocido periodista y escritor en proceso de aprendizaje continuo.