Hugging face, la herramienta para detectar imágenes falsas creadas por IA

Hugging face, la herramienta para detectar imágenes falsas creadas por IA

Por: Nayeli Ortega

Las redes sociales han viralizado imágenes creadas por Inteligencia Artificial (IA), las más populares, recientemente mostraban al Papa Francisco vestido con una parca blanca, al estilo del cantante puertorriqueño Bad Bunny, creada por Midjourney, una de las mejores aplicaciones que utiliza esta tecnología. Las ‘fotografías’ crearon furor entre los internautas, pero también dudas y asombro por lo reales que se veían. Para combatir este tipo de falsificación, se han creado herramientas como Hugging Face, que verifica cuidadosamente las características del rostro para encontrar errores que certifiquen que son ficticias.

La herramienta cuenta “con un hub, es un concentrador de modelos de IA, dentro del cual tiene un espacio para proyectos de Deepfake Detection o detección de falsificación profunda de imágenes o videos falsos, que muestran el rostro de una persona, que parecen ser reales y que se han producido utilizando inteligencia artificial, que los investigadores utilizan en base a algoritmos pre-entrenados con imágenes y/o videos” comenta Marco Antonio Soto, Licenciado en Informática, especialista en Inteligencia Artificial en Sistemas Embebidos.

Hugging Face es una empresa de tecnología que contiene a una comunidad que crea, entrena e implementa herramientas en distintas áreas, como la automatización del hogar, solucionadores de problemas como detección de objetos, clasificación de imágenes, entre otros. Todo esto es posible gracias a un software con un código fuente que cualquiera puede inspeccionar, modificar y mejorar, esto funciona en referencia al aprendizaje automático.

La Deepfake Detection es una de muchas herramientas que contiene esta empresa. Para utilizarla, se debe escribir en el buscador Hugging Face IA detector imágenes o ingresar a https://huggingface.co/spaces/umm-maybe/AI-image-detector. Al abrir la plataforma, se mostrará una opción para subir imágenes, que verificará si son reales, el detector brindará un porcentaje de cuán real o falsa es, como se puede ver en la siguiente imagen.

¿Cómo funciona?

Según el experto Soto, también docente de la carrera de Ingeniería de Sistemas en Unifranz El Alto, para verificar si una imagen es verdadera o falsa, las herramientas de detección de Deepfake, se deben tomar en cuenta características habituales como:

El interior de la boca, los algoritmos analizan zonas específicas de la cara, porque aquellos que crean imágenes y videos son incapaces de copiar con precisión la lengua, los dientes y el interior de la boca.
El cuello y la cara, estas imágenes falsas, habitualmente, crean o modifican los rostros, no el cuerpo entero, ya que esto sería mucho más complicado; por ello es posible detectar su veracidad a través de estas herramientas.
Encontrar fallos en la composición de las imágenes, por ejemplo, imperceptibles diferencias a simple vista en las expresiones faciales, la iluminación o la piel artificialmente lisa.

Herramientas como Hugging Face, son muy importantes, ya que, debido a su alto realismo, los Deepfakes son difíciles de detectar a simple vista, esto puede generar diversos tipos de repercusiones entre la gente.

Marco Soto, también Licenciado en Derecho, asevera que, una instancia más delicada, incluiría a las autoridades judiciales para la toma de decisiones, en cuanto al uso de pruebas documentales, de posibles hechos que nunca sucedieron, por esto asegura que “es indispensable que la población en general conozca tanto las herramientas que sirven para crear o modificar fotografías e imágenes, así como de las herramientas que sirven para su detección”.

Una de las más populares para crear imágenes con IA, es Midjourney que actualmente ha anunciado el fin a su acceso gratuito y, de ahora en adelante, solo funcionará con la opción de pago, por un monto de 10 dólares americanos. Esto, debido a la viralización de imágenes que se han utilizado para generar fake news o noticias falsas.

Existen más herramientas para detectar Deepfakes, parecidas a Hugging Face, como Real-Time Deepfake Detector de la empresa Intel, FakeCatcher de propiedad de la misma empresa y FOCA Deepfake detector que contiene un plugin o complemento en español.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *