raquel metz
SAN FRANCISCO – La joven en la pantalla de la computadora es adorable, con mejillas sonrosadas, ojos gris azulados, cabello rojizo infantil y labios que apenas esbozan una sonrisa.
Pero ella no existe en la vida real. Esta cara, acertadamente titulada tú su persona no existe (esta persona no existe), se generó en un sitio web mediante un inteligencia artificial . Si actualiza la página, será reemplazada por otra cara que es igual de atractiva, pero igual de irreal.
Lanzado a principios de este mes por el ingeniero de software Phillip Wang como un proyecto personal, el sitio utiliza un sistema de inteligencia artificial recientemente lanzado por investigadores del fabricante de chips de computadora Nvidia. Llamada StyleGAN, la IA es experta en crear algunas de las caras más realistas producidas por máquinas de personas inexistentes hasta el momento.
Estapersonanoexiste es uno de varios sitios web que han surgido en las últimas semanas utilizando StyleGAN para producir imágenes de personas, gatos, personajes de anime y casas de vacaciones que se parecen cada vez más a la realidad y, en algunos casos, indistinguibles para el espectador promedio. Estos sitios muestran lo fácil que es para las personas crear imágenes falsas que parezcan reales, para bien o para mal.
El problema de las caras falsas
Wang, como muchos investigadores y entusiastas de la IA, está fascinado por el potencial de este tipo de IA. Tanto es así que creó un segundo sitio llamado estegatonoexiste que genera falsos gatos. Pero también le preocupa el mal uso que pueda tener.
Esto tiene sentido, ya que la táctica de IA subyacente a StyleGAN también se ha utilizado para crear los llamados falsificaciones profundas (falsificaciones profundas), que son archivos de audio y video persuasivos (pero falsos) que pretenden mostrar a una persona real haciendo o diciendo algo que no hizo.
Esas preocupaciones resuenan con voces prominentes en la industria. A principios de este mes, la empresa de investigación de IA sin fines de lucro OpenAI decidió no lanzar un sistema de IA que creó, dando motivos para temer que sea tan bueno para componer texto que podría ser mal utilizado.
Te recomendamos: ‘Fake news stories’, el nuevo enemigo en Facebook
Pero si bien las imágenes que aparecen en el sitio de Wang podrían usarse, por ejemplo, para ayudar a un estafador a crear personas realistas en línea, espera que esto ayude a que las personas sean más conscientes de las capacidades emergentes de la IA.
“Creo que aquellos que desconocen la tecnología son los más vulnerables”, dijo. “Es una especie de phishing: si no lo sabes, puedes caer en la trampa”.
El encanto de las personas falsas (y lo que las delata)
Mucha gente no está muy segura de cómo sentirse acerca de un acceso tan fácil a las caras falsas. Pero están interesados en verlos.
Wang, ex ingeniero de software en Uber, había estado estudiando inteligencia artificial por su cuenta durante seis meses cuando lanzó su sitio web en febrero, poco después de que Nvidia pusiera StyleGAN a disposición del público.
Escribió sobre el sitio en un grupo de Facebook de inteligencia artificial el 11 de febrero. En las semanas posteriores, alrededor de 8 millones de personas lo han visitado.
“Creo que mucha gente ve esto y dice: ‘¡Guau, Matrix! ¿Es esto una simulación? ¿La gente realmente está en la computadora?'”, dijo Wang.
Lee: Inteligencia artificial, la única herramienta para estar seguro
El generador crea una nueva cara cada dos segundos, dijo Wang, que verás cuando actualices la página.
“Puedes pensar en la IA como si imaginara una cara nueva cada dos segundos en el servidor y mostrársela al mundo”, dijo.
¿Qué son los videos deepfake y por qué son una amenaza para los medios?
Los rostros que ven los visitantes varían infinitamente, con una multitud de colores de ojos, formas de rostros y tonos de piel. Algunos usan lápiz labial o sombra de ojos; un puñado usa anteojos deportivos. De vez en cuando aparece un chico con vello facial; uno incluso parecía sudoroso.
Tienen todo tipo de expresiones faciales. Algunos sonríen, otros hacen pucheros o se ven serios. Los rostros más jóvenes parecen ser niños pequeños, pero ninguno parece ser mayor que el de mediana edad.
Por muy realistas que parezcan estas caras, todavía hay muchos detalles que delatan que no son personas reales. Por ejemplo, los dientes a menudo se ven un poco extraños y necesitan urgentemente aparatos ortopédicos, y los accesorios como aretes pueden aparecer solo en una oreja. Con frecuencia, una persona parecerá tener una condición de la piel de otro mundo o cicatrices faciales severas. La ropa puede verse borrosa, tener remolinos de color o simplemente ser un poco rara.
como se hacen las caras
Para generar tales imágenes, StyleGAN utiliza un método de aprendizaje automático conocido como GAN, o red antagónica generativa. Las GAN consisten en dos redes neuronales, que son algoritmos modelados en las neuronas de un cerebro, enfrentados entre sí para producir imágenes realistas de todo, desde rostros humanos hasta pinturas impresionistas. Una de las redes neuronales genera imágenes (de, por ejemplo, el rostro de una mujer), mientras que la otra intenta determinar si esa imagen es falsa o real.
Aunque el campo de la IA abarca décadas, las GAN solo existen desde 2014, cuando el científico de investigación de Google, Ian Goodfellow, inventó la táctica. Estos se han vuelto rápidamente prominentes entre muchos investigadores como un gran avance en el campo.}
Te recomendamos: Falso Obama muestra los riesgos de la inteligencia artificial
StyleGAN es particularmente bueno para identificar diferentes características dentro de las imágenes, como el cabello, los ojos y la forma de la cara, lo que permite a las personas que lo usan tener más control sobre las caras que presenta. También puede resultar en imágenes más atractivas.
Las falsificaciones producidas por GAN pueden ser divertidas, si sabe lo que está viendo, y potencialmente una gran empresa. Una empresa llamada Tangent, por ejemplo, dice que está usando GAN para modificar las caras de los modelos de la vida real, de modo que los minoristas en línea puedan (de manera realista) adaptar las imágenes del catálogo para los compradores en diferentes países. en lugar de usar diferentes modelos o Photoshop. Una empresa de videojuegos podría usar GAN para ayudar a crear nuevos personajes o repetir los existentes.
Esto no es un Airbnb
Christopher Schmidt, ingeniero de software de Google, fue una de las millones de personas que vieron el sitio de Wang poco después de su lanzamiento.
Se dio cuenta de que los investigadores de Nvidia también habían capacitado a StyleGAN para crear imágenes de habitaciones realistas y tuvieron la idea de crear su propio sitio, thisrentaldoesnotexist, para combinar las imágenes de habitaciones sucedáneas creadas por IA con el texto generado. por la IA. El generador de texto que usó fue entrenado en una gran cantidad de listados de Airbnb.
Nvidia se negó a comentar para esta historia. Un portavoz dijo que esto se debe a que la investigación StyleGAN de la compañía se encuentra actualmente en revisión por pares.
La inteligencia artificial de Schmidt presentó versiones de las listas de alquileres que se veían y sonaban extrañas y confusas, por lo que los resultados generados por la IA de Schmidt son mucho menos creíbles que las caras en el sitio de Wang. (Uno incluía una imagen de una mesa de comedor estilo Dalí; otro incorporó la línea, “A minutos del área de Woods, y hay un jardín o verano, un resplandor relajante de todos los aparatos eléctricos”).
Sin embargo, Schmidt también espera que sitios como el suyo hagan que las personas se cuestionen lo que ven en línea.
“Tal vez todos deberíamos pensar un par de segundos más antes de asumir que algo es real”, dijo.
