Falsificar videos es fácil, muestra profunda nostalgia

Puntos clave

  • Deep Nostalgia es un nuevo programa que te permite animar fotos antiguas.
  • La tecnología muestra lo fácil que es crear videos de personas haciendo cosas que en realidad no han hecho en la vida real.
  • La tecnología de falsificación profunda ya es tan sofisticada que es difícil saber si un video es real o generado por computadora, dice un experto.

rostro humano con malla 3d y marcas de reconocimiento


Tenga cuidado con el nuevo software que puede crear las llamadas "falsificaciones profundas", en las que se pueden simular videos de personas reales, advierten los expertos.

Profunda nostalgiapublicado por la empresa Mi herencia, es tendencia en las redes sociales, con usuarios que reaniman a todos, desde compositores famosos hasta familiares fallecidos. El software está provocando reacciones encontradas, con algunas personas encantadas con las creaciones y otras encontrándolos espeluznantes. La tecnología muestra lo fácil que es crear videos de personas haciendo cosas que en realidad no han hecho en la vida real.

"La tecnología deepfake se está volviendo más sofisticada y peligrosa", dijo Aaron Lawson, subdirector de SRI International. Laboratorio de Investigación y Tecnología del Habla (STAR), dijo en una entrevista por correo electrónico. "Esto se debe en parte a la naturaleza de la inteligencia artificial. Donde la tecnología 'tradicional' requiere tiempo y energía humanos para mejorar, la IA puede aprender de sí misma.

“Pero la capacidad de la IA para desarrollarse a sí misma es un arma de doble filo”, continuó Lawson. "Si se crea una IA para hacer algo benévolo, genial. Pero cuando se diseña una IA para algo malicioso como falsificaciones profundas, el peligro no tiene precedentes".


Índice
  1. Puntos clave
  • El software da vida a las fotos
  • Cómo detectar una falsificación profunda
  • El software da vida a las fotos

    El sitio web de genealogía MyHeritage presentó el motor de animación el mes pasado. La tecnología, conocida como Deep Nostalgia, permite a los usuarios animar fotos a través del sitio web de MyHeritage. Una empresa llamada D-ID diseñó algoritmos para MyHeritage que recrean digitalmente el movimiento de rostros humanos. El software aplica los movimientos a las fotografías y modifica las expresiones faciales para moverse como suelen hacerlo los rostros humanos, según el sitio web MyHeritage.

    Deep Nostalgia muestra que la tecnología deep-fake es cada vez más accesible, dijo Lior Shamir, profesor de informática en la Universidad Estatal de Kansas, en una entrevista por correo electrónico. Está progresando rápidamente y eliminando incluso las sutiles diferencias entre el video y el audio falsos y reales.

    "También ha habido un progreso sustancial hacia la falsificación profunda en tiempo real, lo que significa que se generan videos falsos profundos convincentes en el momento de la comunicación por video", dijo Shamir. "Por ejemplo, uno puede tener una reunión de Zoom con cierta persona, mientras ve y escucha la voz de una persona completamente diferente".

    También hay un número creciente de falsificaciones profundas basadas en el lenguaje, Jason Corso, director de la Instituto Stevens de Inteligencia Artificial en el Stevens Institute of Technology, dijo en una entrevista por correo electrónico. "Generar párrafos completos de texto falso profundo para una agenda específica es bastante difícil, pero los avances modernos en el procesamiento profundo del lenguaje natural lo están haciendo posible", agregó.


    Cómo detectar una falsificación profunda

    Si bien la tecnología de detección de falsificación profunda aún se encuentra en una etapa incipiente, hay algunas formas de detectar una, dijo Corso, comenzando por la boca.

    “La variabilidad en la apariencia del interior de la boca cuando alguien habla es muy alta, lo que dificulta animar de manera convincente”, explicó Corso. "Se puede hacer, pero es más difícil que el resto de la cabeza. Observe cómo los videos de Deep Nostalgia no demuestran la capacidad de la fotografía para decir 'Te amo' o alguna otra frase durante la creación de deep fake. Hacerlo requeriría abrir y cerrar la boca, lo cual es muy difícil para la generación de falsificaciones profundas".

    Ghosting es otro obsequio, agregó Corso. Si ve borrosidad alrededor de los bordes de la cabeza, eso es el resultado de "movimiento rápido o píxeles limitados disponibles en la imagen de origen. Una oreja podría desaparecer parcialmente momentáneamente, o el cabello podría volverse borroso donde no lo esperaría". dijo.

    También puede buscar variaciones de color cuando intente detectar un video falso profundo, como una línea nítida en la cara, con colores más oscuros en un lado y más claros en el otro.

    "Los algoritmos informáticos a menudo pueden detectar estos patrones de distorsión", dijo Shamir. "Pero los algoritmos de falsificación profunda avanzan rápidamente. Es inevitable que se requieran leyes estrictas para proteger de la falsificación profunda y el daño que pueden causar fácilmente".

    Entradas Relacionadas

    Subir

    Utilizamos cookies propias y de terceros para personalizar contenidos y analizar el tráfico web. Política de privacidad