Deepfakes en Elecciones 2024: Cómo Identificar y Combatir la Desinformación

5 febrero, 2024

Los deepfakes amenazan la integridad de las elecciones 2024, planteando retos sin precedentes en la era digital. Descubre estrategias clave para reconocer y neutralizar la desinformación.

Mujer y su deepfake pixelado

En un año marcado por elecciones cruciales alrededor del mundo, la tecnología de inteligencia artificial ha cobrado un protagonismo sin precedentes. Los deepfakes, manipulaciones audiovisuales generadas por IA que imitan con asombrosa precisión a personas reales, representan un desafío mayúsculo para la integridad electoral. Recientemente, incidentes en los Estados Unidos y el Reino Unido han evidenciado cómo estas creaciones pueden sembrar confusión y desinformación entre los votantes, socavando la confianza en el proceso democrático.

El ejemplo más reciente en Nueva Hampshire, donde llamadas automáticas falsificadas instaban a los votantes a abstenerse en las primarias, y el deepfake del líder demócrata Keith Wright, son claros indicativos de una era en la que discernir la realidad se vuelve cada vez más complicado​​. ¿Cómo podemos prepararnos para afrontar y mitigar las consecuencias de estas tecnologías en nuestras democracias?

El Impacto de los Deepfakes en la Información Política

Los deepfakes no solo se limitan a la esfera política directa; su influencia se extiende a campañas de desinformación más amplias, con potencial para manipular percepciones públicas y, eventualmente, decisiones electorales. Un ejemplo alarmante proviene del Reino Unido, donde anuncios de video en Facebook mostraban un deepfake del Primer Ministro Rishi Sunak promoviendo una estafa de inversión, llegando a miles de personas y demostrando la sofisticación y peligrosidad de estas tácticas​​.

La proliferación de deepfakes en redes sociales como Facebook, Twitter y TikTok plantea un desafío único: mientras más se extienden, más difícil es rastrear su origen y alcance.

La desinformación ya no solo se propaga por lo que se hace viral; la amenaza incluye también aquello que pasa desapercibido, pero que, sumado, tiene un impacto considerable​​.

Herramientas y Estrategias para la Detección de Deepfakes

En la lucha contra los deepfakes, especialmente en el ámbito político, la tecnología y la innovación juegan un papel crucial. Intel, con su detector de deepfakes en tiempo real FakeCatcher, destaca por su impresionante tasa de precisión del 96%. Este sistema utiliza la fotopletismografía (PPG) para examinar los vídeos en busca de indicadores de «flujo sanguíneo», lo que le permite diferenciar entre metraje genuino y fabricaciones generadas por IA​​.

Por otro lado, WeVerify se basa en una estrategia multifacética que incluye la verificación de contenido, análisis de redes sociales y una base de datos basada en blockchain para exponer y contextualizar medios fabricados. Este enfoque integral es vital para comprender y desmantelar las campañas de desinformación alimentadas por deepfakes​​.

Microsoft no se queda atrás con su Herramienta de Autenticador de Vídeo, que examina las variaciones en escala de grises y proporciona puntuaciones de confianza instantáneas, permitiendo la identificación inmediata de deepfakes en imágenes y vídeos. Esta herramienta es un testimonio de cómo las corporaciones tecnológicas están avanzando hacia soluciones que pueden detectar manipulaciones con una eficacia notable​​.

Además, la técnica de detección de desajustes entre fonemas y visemas, desarrollada por investigadores de Stanford y UC, explota las inconsistencias entre los movimientos de la boca y las palabras habladas, sirviendo como una señal reveladora de manipulación de deepfake​​.

El Papel de los Gobiernos y la Regulación

El reconocimiento del peligro que los deepfakes representan para la democracia y la integridad electoral ha llevado a líderes mundiales y gobiernos a tomar cartas en el asunto. El Primer Ministro de la India, Narendra Modi, ha instado a los medios de comunicación a educar al público sobre este fenómeno, sugiriendo que, al igual que los cigarrillos vienen con advertencias de salud, los deepfakes deberían llevar divulgaciones​​.

En un esfuerzo por combatir este desafío, el Ministro de ferrocarriles de la India, Ashwini Vaishnaw presentó un plan de cuatro puntos que incluye la detección de deepfakes, la prevención de su difusión, el fortalecimiento del mecanismo de informes y la promoción de la conciencia pública. La necesidad de un mecanismo regulatorio efectivo, ya sea mediante nuevas leyes o enmiendas a las existentes, fue destacada como una prioridad​​.

¿Y las tecnológicas?

Las empresas de tecnología y redes sociales tienen un papel fundamental en la lucha contra la desinformación impulsada por inteligencia artificial. OpenAI, por ejemplo, está «bastante enfocado» en detener el uso político indebido de herramientas como ChatGPT, con el CEO Sam Altman anunciando nuevas herramientas para contrarrestar la desinformación en un año electoral tan crucial en Estados Unidos​​. Sin embargo, es fundamental recordar que las plataformas de redes sociales tradicionales, como Facebook, Twitter y TikTok, siguen siendo canales significativos por donde la desinformación puede difundirse rápidamente.

La aparición de deepfakes políticos en estas plataformas plantea un desafío único, no solo por su potencial para engañar a los electores con contenidos falsificados convincentemente, sino también por la dificultad de rastrear y controlar su propagación. El impacto real de los deepfakes en la política se medirá por cómo se distribuyen en estas plataformas y el grado en que la información falsa puede influir en la opinión pública sin ser detectada​​.

El Papel Crucial de la Alfabetización Digital y la Conciencia Pública

La proliferación de deepfakes subraya la importancia de la alfabetización digital y la conciencia pública como herramientas esenciales para combatir la desinformación.

Los individuos deben estar equipados con las habilidades necesarias para discernir entre contenido auténtico y manipulado, especialmente en contextos políticos sensibles. La educación pública y las campañas de concienciación pueden desempeñar un papel vital en la enseñanza de las señales de advertencia de la desinformación y cómo verificar fuentes antes de compartir contenido en línea​​​​.

La responsabilidad de mitigar los efectos de los deepfakes no recae únicamente en las empresas de tecnología y los gobiernos, sino también en el público en general. La creación de una sociedad bien informada y crítica es esencial para preservar la integridad de las elecciones y la democracia frente a las amenazas de la inteligencia artificial. Esta tarea colectiva requiere una colaboración entre educadores, legisladores, empresas de tecnología y ciudadanos para desarrollar y promover prácticas de consumo de medios seguras y responsables​​​​.

La lucha contra los deepfakes y la desinformación es un desafío complejo que necesita una respuesta multifacética. Desde el desarrollo de tecnologías avanzadas de detección hasta la promoción de la alfabetización digital y la regulación gubernamental, todos los sectores de la sociedad deben colaborar para asegurar elecciones libres y justas en la era digital.

3 comentarios

Deja tu comentario