*

X
Bienvenidos a la era del deepfake, o cuando tus selfies de Instagram son utilizadas para superponer tu rostro de manera realista sobre el cuerpo de una actriz porno en un video

Como dice una nota de Motherboard que reporta este fenómeno: "We are all fucked" (todos estamos cogidos). En los últimos meses ha irrumpido en Internet lo que le sigue al "celebrity fake porn", luego de que usuarios de Reddit y otros sitios empezaran a usar un algoritmo que emplea machine learning para cambiar el rostro de una persona y superponerlo al de otra en un video. Por ejemplo, poner el rostro de Gal Gadot, Taylor Swift o Scarlett Johansson (todas ellas celebridades que han sufrido "deep fakes") sobre el de una actriz porno durante toda la duración de un video. Y actualmente ya ni siquiera se necesita conocimiento de programación para crear estos videos, ya que un usuario creó una app que simplifica el proceso. Las implicaciones de esto son realmente escabrosas.

Los videos, llamados deep fakes, aún no son perfectos, y dejan la impresión de algo raro, un no sé qué que salta un poco, algo robótico en los movimientos del rostro, pero de todas maneras se acercan asombrosamente a la verosimilitud, al punto de que la "falsedad" podría confundirse con sólo una falta de ancho de banda o un leve pixeleo. Si una celebridad ve estos videos en los que aparece debe de sentir algo sumamente perturbador, una especie de glitch ontológico. Por si fuera poco, evidentemente la calidad de los mismos sólo podrá mejorar en los siguientes años con la optimización de la inteligencia artificial que ya se está usando para crearlos.

La forma en la que estos deepfakes funcionan es relativamente sencilla. Los creadores de estos videos emplean software de reconocimiento facial que les dice qué actores o actrices porno se parecen a la persona con la que quieren hacer el cambio de rostro (algo que ha sido llamado "doppelbanger"). Para esto ya existen varias aplicaciones disponibles que son fáciles de usar. Una vez que se ha hecho el match de cara con el cuerpo, los usuarios pueden buscar en sitios de porno videos del actor o actriz elegido y empezar a hacer el "face-swap" o cambio de rostro, cuadro por cuadro.

Por el momento esto parece estar dominado por el porno de celebridades, hacer cumplir la fantasía masturbatoria de las masas, lo cual en sí es algo violatorio de la imagen, pero ya hay indicios de algo más. Usuarios de los foros de deepfakes dicen que ya han creado videos de una chica con la que iban en la escuela, usando 380 fotos de Instagram y Facebook. Hemos llegado al momento en el que las selfies que subes a Internet se pueden convertir en videos porno hardcore en apenas 3-5 horas de edición. Esto abre toda un caudal de "revenge porn".

El otro gran problema que se avecina son los videos fake de políticos circulando como las más convincentes fake news. Pronto podremos ver videos de Donald Trump declarando la guerra y asegurando la destrucción de Corea del Norte, México, Canadá o cualquier otro país, o aceptando que en realidad es gay. Cualquier cosa. Esto nos recuerda un artículo anterior en el que analizamos cómo el mundo en el que vivimos se parece más al imaginado por Philip K Dick que al de Orwell, un mundo en el que "humanos falsos generarán realidades falsas y se las venderán a otros otros seres humanos, convirtiéndolos, eventualmente, en falsificaciones de sí mismos". La caja de Pandora del "fake" está abierta. 

Wired señala que además, en términos legales, en Estados Unidos no hay mucho que una persona promedio pueda hacer. A diferencia de una foto desnuda hackeada de la nube, en este caso no se puede demandar a alguien por exponer los detalles íntimos de tu vida, y es que hay todo tipo de lagunas al respecto, porque no es tu cuerpo el que aparece. Técnicamente no eres tú en el video. Por otro lado, se podría objetar que es censura bajar estos videos, ya que son "arte". Existe la opción para las celebridades de demandar por "mala apropiación" de su imagen, pero esto sólo en el caso de que sea usada con fines comerciales. Como cuando, por ejemplo, la foto de una celebridad es usada para la publicidad de un club de strippersWe are all fucked.

Te podría interesar:
Ante los desarrollos recientes en inteligencia artificial y robótica, Musk lanza una alerta

En las últimas semanas se anunciaron al menos dos desarrollos robóticos sumamente sorprendentes. 

Por un lado, a finales de octubre, se dio a conocer a “Sophia”, quizá el robot más antropomórfico construido hasta hoy que, además, llegó acompañado de una estrategia publicitaria de alto impacto: se trata también del primer robot en la historia en recibir la ciudadanía de un país, en su caso Arabia Saudita, cuyo gobierno lanzó de esta forma el anuncio de que se encuentra abierto a acoger empresas e iniciativas dedicadas al desarrollo de inteligencia artificial. 

“Sophia” fue diseñada y construida por la compañía de origen hongkonés Hanson Robotics, en donde se le programó para sostener conversaciones con seres humanos. Sus programadores incorporaron desarrollos tecnológicos modernos como el reconocimiento facial y de voz, la búsqueda de nueva información y el aprendizaje sobre la marcha, pero al mismo tiempo puede considerarse una versión de su antecesora ELIZA, el legendario programa que fue uno de los primeros en pasar la prueba de Turing (conversar con un ser humano sin que éste se dé cuenta de que sostiene una plática con una máquina). En ese sentido, a pesar de todas las escenas sorprendentes que se han visto en medios, puede decirse que “Sophia” está diseñada para generar la ilusión de una conversación, y no tanto para conversar en sí, según lo entendemos los seres humanos.

Por otro lado, a mediados de noviembre, el laboratorio Boston Dynamics igualmente hizo públicas algunas escenas de su robot estrella, “Atlas”, realizando movimientos que “la mayoría de las personas no pueden hacer”, según se repitió en diversos medios, esto es, saltar del piso hacia una superficie elevada y, lo más notable, hacer un salto hacia atrás. 

Al ver tanto a “Sophia” como a “Atlas”, es un poco inevitable pensar en las varias películas de ciencia ficción construidas sobre la posibilidad distópica de la inteligencia artificial y los desarrollos robóticos. Por más optimismo o esperanza con que se presenten estas invenciones –se dice, por ejemplo, que “Sophia” podría asistir a personas mayores en casas de retiro, a los visitantes de un parque público, y que Atlas podría usarse en misiones de rescate–, lo cierto es que en la historia de la humanidad se encuentra evidencia suficiente para sospechar de esas buenas intenciones y, en ese sentido, no resulta complicado imaginar a “Sophia” y a “Atlas” en escenarios de guerra y violencia como los de la distopía Matrix, por ejemplo:

Elon Musk es una de las personas que comparten dicha suspicacia frente a la inteligencia artificial, e incluso más que una simple reticencia. De acuerdo con un reportaje publicado recientemente por la revista Rolling Stone, el también inventor y fundador de la compañía automotriz Tesla considera que existe sólo un 10% de probabilidades de desarrollar inteligencia artificial que sea segura para el ser humano. En el resto de escenarios, la inteligencia artificial representa un riesgo mayor para la supervivencia de nuestra civilización, según Musk.

Paradójicamente, Musk también es inversor en DeepMind, el ambicioso proyecto de investigación en inteligencia artificial de Google que cuenta con vastos recursos para sus investigaciones. Según se publica en Rolling Stone, Musk decidió invertir en el proyecto para “tener un ojo” en los desarrollos de Google. 

Según puede colegirse de sus proyectos y sus posiciones frente a ciertos fenómenos contemporáneos, Musk actúa bajo ciertas directrices filantrópicas y, a diferencia de muchos de sus colegas multimillonarios, se ha pronunciado en diversas ocasiones a favor del uso benéfico de la ciencia y la tecnología, en provecho de la humanidad y no en su contra. 

Él, por ejemplo, es una de las pocas personas que estando dentro del círculo de acción de los dueños y desarrolladores de empresas como Facebook, Google o Amazon, señala el inmenso poder que han acumulado estas corporaciones a través de la recolección de datos personales, mismo que hasta ahora se encuentra escasamente regulado y que quizá con el tiempo se vuelva incontrolable.

No es posible saber hasta dónde llegará el desarrollo de la inteligencia artificial o el uso de la información personal que concedemos con tan sólo pasar unos cuantos minutos en las redes sociales, pero quizá la alerta de Musk podría tomarse más en serio antes de que, como dijo en otra ocasión, veamos robots en las calles matando seres humanos.

 

También en Pijama Surf: 10 obras distópicas indispensables para entender el mundo en el que vivimos