Este tipo de montajes utilizan técnicas de inteligencia artificial para sustituir los rostros de un vídeo e incluso sincronizar sus facciones con cualquier tipo de audio, permitiendo crear vídeos (algunos de temática lúbrica) sorprendentemente creíbles. La mayoría de las aplicaciones disponibles públicamente dejan algo que desear, pero usando material de buena calidad y el software adecuado algunos videos podrían requerir varios visionados para determinar su autenticidad.
La disponibilidad de herramientas relativamente sencillas ha hecho de los deep fakes un hobby para algunos usuarios.
Por este motivo, y puesto que Facebook es un medio de información de primer orden para millones de personas en todo el mundo, la red social ha ampliado su programa de fact checkers para determinar la validez de los vídeos publicados en la plataforma. Las 27 organizaciones que colaboran con Facebook para valorar la validez de sus noticias podrán también puntuar vídeos e imágenes estáticas calificadas como potencialmente fraudulentas por un sistema de aprendizaje automatizado.
Esencialmente, la inteligencia artificial de Facebook examinará fotos y vídeos hasta dar con alguna clase de contenido sospechoso, que después será enviado a un equipo de humanos formado por organizaciones como Snopes, Politifact o Associated Press. Periodistas y fact checkers comprobarán su autenticidad usando verificación visual, pero también búsquedas inversas y análisis de los metadatos. Reciba la valoración humana, la inteligencia artificial de Facebook mejorará la precisión de sus futuras detecciones.
La preocupación por los deep fakes comenzó a extenderse tras vídeos como este creado por la Universidad de Washington.
Desarrollar (y entrenar) esta inteligencia artificial a niveles óptimos no será tarea fácil. Facebook reconoce que ahora mismo tiene más éxito usando técnicas de OCR en vídeos para detectar textos fraudulentos insertados en vídeos que verificando la transcripción del audio de un vídeo para comprobar su autenticidad. Dar el salto a los deep fakes, que pueden ser aún más engañosos, requerirá por tanto de un esfuerzo técnico y humano considerable.
