Contenido
- ¿Qué es deepfake?
- ¿Cómo funciona deepfake?
- Los origenes
- Los peligros
- Encontrar una solución
- Contenido popular falso
El contenido de Deepfake está creando caos entre las personas que crecieron con la idea de que ver para creer. Fotos y videos, una vez considerados evidencia innegable de que algo está sucediendo, ahora están siendo cuestionados por las masas. Esto es de esperarse después de descubrir que el video increíblemente realista de Barack Obama llamando al presidente Trump una "inmersión total y completa" no es más que una creación falsa.
El contenido de Deepfake está creando caos entre las personas que crecieron con la idea de que ver para creer.
Edgar CervantesEl técnico involucrado está levantando las cejas y generando preguntas, por eso estamos aquí para brindarle un resumen completo y falso de lo que es, cómo funciona y si realmente hay una razón para preocuparse.
¿Qué es deepfake?
Deepfake es una técnica de inteligencia artificial (IA) que utiliza el aprendizaje automático para crear o manipular contenido. A menudo se usa para crear montajes o superponer la cara de una persona sobre otra, pero sus capacidades se extienden mucho más allá de eso. Esta tecnología tiene muchas otras aplicaciones. Estos incluyen manipular o crear sonido, movimiento, paisajes, animales y más.
¿Cómo funciona deepfake?
El contenido de Deepfake se crea a través de una técnica de aprendizaje automático conocida como GAN (red generativa de confrontación). Las GAN usan dos redes neuronales: un generador y un discriminador. Estos están constantemente compitiendo unos contra otros.
El generador intentará crear una imagen realista, mientras que el discriminador intentará determinar si es falso o no. Si el generador engaña al discriminador, el discriminador utiliza la información recopilada para convertirse en un mejor juez. Del mismo modo, si el discriminador determina que la imagen del generador es falsa, el generador mejorará al crear una imagen falsa. El ciclo interminable puede continuar hasta que una imagen, video o audio ya no sea notablemente falso para la perspectiva humana.
Los origenes
¡Los primeros videos profundos eran obviamente porno!
Edgar Cervantes¡Los primeros videos profundos eran obviamente porno! Más específicamente, era común ver caras de celebridades superpuestas sobre actrices porno. Los memes de Nicholas Cage también fueron populares, entre otros inventos divertidos.
La palabra deepfake se convirtió en sinónimo de esta técnica en 2017, gracias a un usuario de Reddit que se hizo llamar "deepfakes". El usuario se unió a otros en el ahora prohibido r / deepfakes subreddit, donde compartieron sus creaciones con el mundo.
El verdadero creador de las redes de confrontación generativas es Ian Goodfellow. Junto con sus colegas, introdujo el concepto en la Universidad de Montreal en 2014. Luego pasó a trabajar para Google y actualmente trabaja para Apple.
Los peligros
En las manos equivocadas, la creación profunda puede ser utilizada para falsificar mucho más que los tontos memes de Nicholas Cage.
Edgar CervantesSi bien la manipulación de contenido no es nada nuevo, solía requerir habilidades serias. Necesitabas una computadora poderosa y una muy buena razón (o demasiado tiempo libre) para crear contenido falso. El software de creación de Deepfake como FakeApp es gratuito, fácil de encontrar y no requiere mucha potencia de la computadora. Y debido a que hace todo el trabajo por sí solo, no es necesario que sea un editor experto para crear medios falsos realmente increíbles.
Es por eso que el público en general, las celebridades, las entidades políticas y los gobiernos están preocupados por el movimiento falso. En las manos equivocadas, la creación profunda puede ser utilizada para falsificar mucho más que los tontos memes de Nicholas Cage. Imagine a alguien creando noticias falsas o evidencia de video incriminatoria. Puedes agregar porno falso y de venganza al problema. Las cosas pueden complicarse muy rápido.
Otra razón para preocuparse por el contenido falso es que personalidades importantes también podrían negar acciones pasadas. Debido a que los videos deepfake parecen tan reales, cualquiera podría afirmar que un clip real es falso.
Lea también: Las complejidades de la ética y la IA.
Encontrar una solución
Si bien es muy real, un ojo entrenado aún puede detectar un video falso prestando mucha atención. La preocupación es que en algún momento en el futuro no podremos notar la diferencia.
Twitter, Pornhub, Reddit y otros han intentado sin éxito deshacerse de dicho contenido. En el lado más oficial, DARPA (Agencia de Proyectos de Investigación Avanzada de Defensa) está trabajando con instituciones de investigación y la Universidad de Colorado para crear una forma de detectar las falsificaciones.
Lo mejor que podemos hacer para combatir los videos falsos es ser más observadores y menos crédulos.
Edgar CervantesHasta que tengamos un software que pueda detectar irregularidades en tales videos, lo mejor que podemos hacer es ser más observadores y menos crédulos. Haga su investigación antes de asumir que un video, imagen o audio es real. Esto es algo que ya deberíamos haber estado haciendo, de todos modos.
Contenido popular falso
Jordan Peele se une a Buzzfeed para armar este video, que está destinado a crear conciencia.
La experta en manipulación en línea Claire Wardle nos muestra cuán realistas pueden ser estos videos al aparecer como Adele durante los primeros 30 segundos del video. Este video de The New York Times nos da una gran visión del tema.
Watchmojo ofrece una lista de algunos de los videos de deepfake más populares. Es un video divertido con muchos buenos ejemplos.
¿Te preocupan las consecuencias de los videos profundos? Sin duda, es un tema que debemos tener en cuenta, al mismo tiempo que trabajamos para encontrar soluciones.
