democraciaAbierta

Cómo usar el poder de blockchain para combatir videos deepfake

Además de las noticias falsas, actualmente hay otro término que está causando polémica, el deepfake, que se podría traducir como ultra falso. English

Mihai Ivascu Alin Iftemi
27 November 2019
Screenshot from: "Synthesizing Obama: Learning Lip Sync from Audio"
|
Original video by: Supasorn Suwajanakorn, Steven M. Seitz, Ira Kemelmacher-Shlizerman SIGGRAPH 2017

Estos videos, en apariencia auténticos, han sido en realidad manipulados y con el tiempo se están convirtiendo en serios problemas ya que han conseguido que la gente dude de la veracidad de los medios.

¿Pueden el blockchain y la inteligencia artificial (AI) ser usados para combatir el deepfake para restaurar la confianza que tiene el público en el sistema? Nosotros creemos que sí.

¿Que es el ¨deepfake, un término que combina deep learning o aprendizaje profundo y fake cuyo significado en español es falso? De acuerdo con la Wikipedia; Es una técnica de inteligencia artificial que permite editar vídeos falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no supervisados, conocidos en español como RGAs (Red generativa antagónica), y vídeos o imágenes ya existentes. Debido a estas características, deepfakes han sido usados para la realización de falsos videos porno, noticias ficticias, elaboradas estafas y fraudes financieros.

La combinación de videos ya existentes y otras imágenes superpuestas resultan en vídeos muy realistas mostrando una o varias personas representando una acción que en realidad nunca ocurrió.

Los deepfakes pueden influenciar la opinión pública, modificar el resultado de elecciones democráticas, accionar luchas raciales e incluso provocar que ciertos eventos pueden escalar a la categoría de conflicto armado. A nivel individual, los deepfakes han sido usados para crear falsos videos porno de personajes públicos, videos que han afectado gravemente a la reputación de la persona en cuestión a pesar incluso de haber sido clasificados como videos falsos.

El mecanismo del Deepfake

De acuerdo a John Villaseñor, profesor de ingeniería eléctrica en la Universidad de California, cualquiera que tenga un ordenador y acceso a internet puede producir contenido deepfake. Villaseñor comentó a CNBC "la tecnología puede ser usada para desprestigiar la reputación de un candidato político, mostrándole haciendo y diciendo cosas que en realidad nunca ocurrieron. Deepfakes son una nueva herramienta muy poderosa para aquellos que quieran tergiversar la información con la idea de influenciar unas elecciones"

Paul Barret, profesor adjunto de derecho en la Universidad de New York, concuerda, explicando que los deepfakes son videos falsos hechos con aprendizaje profundo. El aprendizaje profundo no es otra cosa que una pata de la Inteligencia Artificial y se refiere a un set de algoritmos que pueden aprender y ejecutar tareas complejas por sí mismos.

Peter Singer, experto en ciberseguridad, consultor en el área de defensa estratégica y miembro senior del instituto de investigación New America, cree que el peligro de los deepfakes proviene del hecho de que la tecnología puede ser usada para hacer creer a la gente que algo es real cuando verdaderamente no lo es.

Cómo se crean los deepfakes

Un sistema de aprendizaje profundo puede crear una falsificación efectista mediante el estudio de fotografías y videos de un individuo desde múltiples ángulos, para después imitar su comportamiento y patrones del habla. Después de varias rondas de prueba y error, el sistema se perfecciona y el video deepfake es completado, según los expertos consultados.

Mientras la inteligencia artificial puede ser usada para elaborar deepfakes, también puede ser usada para detectarlos

Conforme a un informe tecnológico del MIT, un dispositivo que permite deepfakes puede ser un arma perfecta para creadores de noticias falsas que quieran influenciar desde el mercado bursátil hasta las elecciones.

“Herramientas de inteligencia artificial ya son usadas para intercambiar fotos de cuerpos de ciertas personas con las caras de otras llegando al extremo de utilizar cuerpos de actores y actrices porno, a la vez que se distorsionan las voces de políticos” escribió Martin Giles, el jefe de la oficina del MIT Technology review en San Francisco

Luchando contra los deepfakes con tecnología blockchain

Kevin Gannon, gerente en tecnología Blockchain y arquitecto de soluciones en PwC y reconocido experto, comenta "Cuando hablamos del área deepfake, tecnologías emergentes como el blockchain pueden dar un paso al frente para proveer niveles de seguridad, aprobación y validación. La tecnología Blockchain es reconocida como el referente en cuanto a visibilidad y transparencia, donde una vez que se hace alguna cosa, el “quién” y el “cuándo” salen a la luz. ¡Pero también puede ir más allá! Cuando un usuario con identidad digital quiere hacer algo, éste puede ser requerido para proveer una prueba identificativa antes de que el acceso a por ejemplo, fondos, sea concedido.

Gannon prosigue: “Desde otro punto de vista, la autenticidad de un video o de archivos de audio puede ser probada mediante una aplicación Blockchain donde el código de control de ciertos registros puede ser comparado a los originales. Aunque, no es una fórmula mágica, y como siempre, la verdadera clave es la adopción y la implementación de la tecnología de manera correcta. Desde la perspectiva de la seguridad, más mecanismos de datos abiertos (como un libro mayor público) tienen mayor posibilidad de ser atacados, por lo que una protección completamente garantizada de manera inherente no puede ser pretendida. Pero activando protocolos de seguridad alrededor de los procesos de aprobación, dónde contratos inteligentes (smart contracts) pudieran ser activados, puede fortalecer dichos procesos.

En definitiva, y desde un punto de vista técnico, aplicando múltiples firmas en los procesos supondrá que si una identidad queda desprotegida, varias identidades a más serán necesarias para que la aprobación final sea confirmada.

Detectando deepfakes mediante Inteligencia Artificial

Mientras la inteligencia artificial puede ser usada para elaborar deepfakes, también puede ser usada para detectarlos, Villasenor escribió. Desde que esta tecnología ha devenido en más accesible a usuarios informáticos, un número in crescendo de investigadores se están enfocando en detectar deepfakes, buscando vías efectivas para combatirlos y regularlos.

Incluso grandes corporaciones como Facebook o Microsoft han emprendido iniciativas para detectar y eliminar videos deepfake. De acuerdo a Reuters, las dos compañías anunciaron a principios de este año que colaborarán con las mejores universidades de los Estados Unidos de América con el objetivo de crear una gran base de datos de videos deepfake para su posterior estudio. “Actualmente, hay minúsculos aspectos visuales que delatan un deepfake, por ejemplo si miras de manera minuciosa verás que hay pared de ojos y orejas que no cuadran pasando por bordes de la cara borrosos, pieles demasiado tersas hasta luces y sombras” Peter Singer dixit. Singer añadió que la detección de estas anomalías está siendo más complicada ya que la tecnología deepfake está evolucionando, siendo cada vez más avanzada resultando en videos mucho más realistas.

La mayoría de las soluciones blockchain que encontramos actualmente en el mercado están orientadas a ofrecer un servicio, limitándose por lo tanto a una aplicación de la tecnología.

Dr. Alexander Adam comparte más detalles en como los deepfakes pueden ser contrarrestados con la ayuda de AI.

“Los algoritmos de aprendizaje automático son excelentes en el reconocimiento de grandes cantidades de datos. El aprendizaje automático puede proveer de un método para detectar falsos audios mediante el uso de técnicas de clasificación que funcionan mostrando a un algoritmo grandes cantidades de deepfake audio así como de audios originales a la vez que enseña la diferencia de la frecuencia de composición entre ambos. Por ejemplo, al usar la clasificación de imágenes en los espectrogramas de audio, puedes enseñar a un modelo de aprendizaje automático a "detectar la diferencia". Sin embargo, hasta donde yo sé, todavía no existe una solución lista para usar ”.

Adam continúa: “En parte, esto es debido a que el audio deepfake no es considerado una amenaza tan grande como el video deepfake. Los archivos de audio deepfakes no son perfectos y deberías ser capaz de notar la diferencia si están dirigidos a una persona de tu entorno o a alguien en particular que conozcas bien. Dicho esto, interferencias en líneas de teléfono y ruidos de fondo podrían ser utilizados para camuflar el resultado. Como los medios han prestado más atención a los videos deepfakes, la opinión pública tiene menos noción de los peligros potenciales de los archivos de audio deepfakes. Si tienes un motivo para tener sospechas, deberías confirmar siempre que la persona que está hablando es la que tú crees que es.

¿Como se está configurando el futuro en este punto?

“Esperamos que la creación y el uso de los deepfakes audios con fines espurios aumente en los próximos años y que estos alcancen altísimos niveles de sofisticación. Esto será debido a que habrá un mejor conocimiento de los modelos de aprendizaje profundo y de como intercambiar información entre ellos a la vez que el sistema va aprendiendo exponencialmente. Tenemos que apuntar, que a la par que la siguiente generación de contenido deepfake logra un mayor realismo, también mejorarán los sistemas de detección de los mismos” concluye el Dr. Alexander Adam

Modex BCDB, una nueva aproximación en la tecnología blockchain.

La mayoría de las soluciones blockchain que encontramos actualmente en el mercado están orientadas a ofrecer un servicio, limitándose por lo tanto a una aplicación de la tecnología.

Una compañía o el CTO (Director de Tecnología) de la misma pueden llegar a la conclusión, después de un estudio exhaustivo, de que su negocio puede ser más rentable y más eficiente con la aplicación de Blockchain. El problema surge en el punto en que la compañía tiene que implementar la tecnología blockchain partiendo de su propio departamento informático, pues necesita invertir una gran cantidad de tiempo y de recursos para poder dirimir qué tipo de blockchain se adapta mejor a sus necesidades, comenzando un arduo proceso de aprendizaje del desarrollo de ese blockchain en particular a la par que se reclutan especialistas en la tecnología.

Modex BCDB es una nueva vía en la tecnología blockchain que elimina la necesidad de invertir recursos en entrenamiento de blockchain y facilita una rápida adopción de la tecnología en los negocios.

La solución que propone Modex es un híbrido que combina blockchain con una base de datos creando una estructura que es fácil de aprender y de usar por programadores informáticos sin conocimiento previo del blockchain.

Como resultado, cualquier programador que sabe trabajar con bases de datos puede operar con Modex, sin necesidad de modificar su estilo de programación o de aprender blockchain.

Mediante nuestro componente blockchain, Modex BCDB es capaz de transformar con muy pocos cambios cualquier base de datos en un base descentralizada con los mismos atributos inherentes a la tecnología blockchain: transparencia, mayor seguridad, inmutabilidad de los datos e integridad.

Contrariamente a lo que se puede pensar, Modex BCDB no funciona eliminando la existente base de datos o las subsecuentes entradas. La base de datos se mantiene intacta mediante los procesos, la integridad de lo datos se colige del cálculo del metadata de los archivos y se almacena en el blockchain. El sistema no restringe el acceso al blockchain o a la base de datos, así que cuando un programador cualquiera necesita hacer un informe o transformaciones ETL (extraer, transformar y cargar), pueden ejecutar analiticas de almacenamiento a la par que acceden a la base de datos de manera directa.

Esto es debido a que Modex BCDB ha sido diseñado de ex profeso para ser intuitivo y fácil de usar. Con nuestra solución los clientes son capaces de crear una red independientemente de la base de datos usada. En un consorcio, cada compañía puede mantener que tipos de bases de datos prefieren y conectarlas mediante una red blockchain que asegure la transmisión de información a la par que protege los intereses corporativos de cada una de las empresas que forman dicho consorcio.

Unete a nuestro boletín ¿Qué pasa con la democracia, la participación y derechos humanos en Latinoamérica? Entérate a través de nuestro boletín semanal. Suscríbeme al boletín.

Comentarios

Animamos a todo el mundo a que haga comentarios, Por favor, consulte las intrucciones de openDemocracy para comentarios
Audio available Bookmark Check Language Close Comments Download Facebook Link Email Newsletter Newsletter Play Print Share Twitter Youtube Search Instagram