ARGENTINA, 5 Oct (EUROPA PRESS)
Donald Trump, Elon Musk y Taylor Swift encabezan la lista de las personalidades más 'deepfakeadas' en 2024, reveló un estudio reciente de la plataforma de creación de videos, Kapwing. La práctica, cada vez más extendida en internet y redes sociales, utiliza tecnología de inteligencia artificial para manipular imagen y voz, planteando serios riesgos para la democracia.
Los 'deepfakes', que presentan audios y videos manipulados de manera que parezcan reales mediante el uso de técnicas avanzadas de aprendizaje automático, han dejado de ser un terreno exclusivo de los desarrolladores para convertirse en una herramienta accesible al gran público. Gracias a los avances en la clonación de voz y la sincronización labial de código abierto, esta tecnología plantea un desafío creciente en cuestiones de suplantación de identidad y propagación de noticias falsas.
La clonación de voz, explicó Kapwing, se basa en capturar las características vocales de una persona a partir de una breve muestra de audio, que analiza y aplica a un modelo subyacente capaz de generar voz a partir de texto. Paralelamente, la IA para la sincronización de datos se encarga de hacer coincidir los movimientos labiales con los sonidos generados, permitiendo la creación de 'gemelos de IA' con solo diez segundos de metraje inicial.
Entre algunas de las figuras públicas más 'deepfakeadas' de Estados Unidos en 2024, se destacaron Donald Trump, con 12.384 solicitudes de videos relacionados, seguido por Elon Musk, con 9.544 solicitudes, y Taylor Swift, con 8.202. Joe Biden también formó parte de esta lista, junto a celebridades del cine, el deporte y la música, evidenciando una tendencia hacia la utilización de estas tecnologías con propósitos que van desde el entretenimiento hasta la influencia en la opinión pública.
Sin embargo, la difusión de 'deepfakes' no está exenta de riesgos. Un ejemplo de ello es la creación de un discurso falso de Joe Biden anunciando su retiro de las próximas elecciones presidenciales, lo cual podría causar confusión y afectar la credibilidad de las informaciones. Además, estos contenidos se han convertido en una herramienta al servicio de ciberdelincuentes que buscan engañar a los usuarios mediante la explotación de la confianza depositada en personajes públicos.
Ante este panorama, Kapwing resaltó la importancia de contar con herramientas capaces de identificar los 'deepfakes', apuntando a detalles como la sincronización de labios y dientes y la naturalidad en los movimientos corporales y el tono de voz como claves para su detección.
"Las conclusiones de nuestro estudio muestran claramente que los deepfakes de vídeo ya son algo habitual, al igual que las herramientas que pueden utilizarse para hacerlos", subrayó Eric Lu, cofundador de Kapwing, instando a una disponibilidad segura de estas tecnologías y a la responsabilidad de los proveedores en señalar alteraciones y garantizar la seguridad de los contenidos.