Las herramientas de IA permiten crear fácilmente mensajes falsos con fines políticos

Mientras se acercan elecciones de gran importancia en la Unión Europea y Estados Unidos, una nueva investigación de una organización no gubernamental ha comprobado que las herramientas de Inteligencia Artificial (IA) disponibles públicamente pueden usarse con facilidad como armas para producir “mentiras electorales convincentes”, empleando las voces de figuras políticas destacadas y ampliamente conocidas.

Investigadores del Centro para Contrarrestar el Odio Digital (CCDH), con sede en Washington, Estados Unidos, probaron en un nuevo estudio seis de las herramientas de clonación de voz mediante Inteligencia Artificial (IA) más populares, con el objetivo de verificar si eran capaces de generar clips de audio convincentes de cinco declaraciones falsas sobre temas electorales, en las voces de ocho destacados políticos estadounidenses y europeos.

Mensajes falsos pero muy convincentes

Según informa Associated Press (AP), sobre un total de 240 pruebas alrededor del 80% de los casos, en concreto 193 ejemplos, fueron catalogados por los expertos como clonaciones convincentes de las voces de las figuras políticas, por lo que sonarían creíbles para la mayoría de los oyentes. Los audios con contenido falso se crearon con herramientas de IA de uso gratuito, que están al alcance de cualquier persona que disponga de un dispositivo con acceso a Internet.

En uno de los casos, un falso Joe Biden dice que los funcionarios electorales cuentan cada uno de sus votos dos veces. Además del presidente estadounidense, en otros ejemplo el jefe de estado francés, Emmanuel Macron, advierte en un audio falso a los ciudadanos que no voten debido a amenazas de bomba en las urnas.

Estos ejemplos son suficientes para comprender la trascendencia que podría tener la difusión masiva de este tipo de mensajes engañosos con fines electorales a través de las redes sociales: aunque rápidamente puedan presentarse pruebas para verificar su falsedad, la comunicación ya fue realizada y puede influir igualmente en la mente y las intenciones de los votantes.

Los especialistas apuntaron en concreto a dos elecciones de gran trascendencia: los inminentes comicios para el Parlamento Europeo y la próxima elección presidencial en Estados Unidos. ¿Qué papel pueden llegar a tener estas “mentiras convincentes” generadas mediante la IA en los procesos democráticos? ¿Con qué profundidad pueden impactar?

¿El fin de la democracia lo pone la IA?

“La falta de barreras protectoras para estas herramientas, y el bajo nivel de habilidades tecnológicas necesario para usarlas, permite que las plataformas pueden ser manipuladas fácilmente por prácticamente cualquier persona, para producir información política errónea y peligrosa”, indicó en una nota de prensa el director ejecutivo del CCDH, Imran Ahmed.

En base a los resultados de las pruebas realizadas, los investigadores concluyen que la integración entre plataformas de IA sin restricciones y de fácil uso, con el potencial de las redes sociales en términos de difusión masiva y desinformación, puede transformarse en un arma letal para las democracias contemporáneas.

En otras palabras, un cóctel explosivo de empresas de IA que dejan de lado la ética para posicionar sus productos y mensajes falsos que muchas personas pueden confundir con la realidad podría profundizar la debacle de la democracia, hiriéndola de muerte en su papel de columna vertebral del sistema político y la organización social global.