Inteligencia artificial podría identificar casos de “deepfake” en internet

Inteligencia artificial podría identificar casos de “deepfake” en internet

La herramienta FaceCatcher tiene una tasa de precisión del 96 % y puede ser utilizada en tiempo real. (foto: Unocero)

 

Los deepfake son formas de uso de inteligencias artificiales para realizar ediciones de video en el que se puede suplantar la identidad de una persona creando una representación de su rostro en un cuerpo distinto, para crear una ilusión de realismo.

Por Infobae

Este uso de la tecnología puede ser vista en películas, series y publicidad. Sin embargo, también ha sido mal utilizada por personas que falsifican videos de autoridades de gobiernos nacionales para hacer creer al mundo que se han producido declaraciones o actitudes que no ocurrieron en realidad.

El caso de un supuesto video del presidente de Estados Unidos, Joe Biden, cantando durante un discurso es un ejemplo de uso que podría considerarse divertido para la audiencia. Sin embargo, esta tecnología puede utilizarse para estafar a personas, como ocurrió con casos de videos pornográficos de actrices de Hollywood.

Al respecto, se conoció una herramienta de software que también utiliza inteligencia artificial para detectar casos de deep fake para exponer estas prácticas maliciosas ante el mundo.

FakeCatcher, como se le conoce a este recurso tecnológico, fue presentado por Intel como un detector de deep fake en tiempo real, por lo que podría ser utilizada al instante para reconocer qué video o contenido está siendo manipulado por inteligencia artificial.

“Esta tecnología puede detectar videos falsos con una precisión del 96 % (…) Es el primer detector de falsificación profunda en tiempo real del mundo que devuelve resultados en milisegundos”, indica la empresa en su sitio web oficial.

Cómo funciona FakeCatcher

La empresa afirma en el comunicado oficial del lanzamiento que el método de detección está basado en la búsqueda de indicios reales usando el flujo de sangre en los rostros de las personas como referencia.

Esta característica es sutil en los pixeles de un video y se presenta con muy ligeros cambios en la tonalidad de la piel. Luego de procesar las imágenes por un sistema de algoritmos, si se detectan estas señales el video será identificado como uno real, mientras que el caso contrario será catalogado como una falsificación de manera instantánea.

Como parte de su presentación, se indica que FakeCatcher puede generar un aumento en la confianza de los medios de comunicación, mientras que en el caso de las redes sociales podría ser una herramienta útil de identificación de videos falsos o que son dañinos para las comunidades.

En el ámbito global, esta función podría ser utilizada para evitar la difusión de contenido manipulado o del cual se dude de su autenticidad. Las organizaciones sin fines de lucro también tendrían participación en la aplicación de esta plataforma por medio de la democratización de la detección de estos casos para la ciudadanía.

Por su parte, empresas como Google que están dedicadas a la aplicación de la tecnología, han vetado esta práctica de edición de video debido al mal uso que se le ha estado dando en internet y de la mala imagen que tiene en la actualidad su aplicación a nivel de usuario.

La Unión Europea, por su parte, también se ha involucrado en la lucha contra la desinformación a raíz de este tipo de contenido y ha insistido en que las compañías de redes sociales como Meta y Twitter tengan medidas claras para combatir los deep fakes en sus plataformas.

Exit mobile version