¿Sabe usted cómo los ‘deepfakes’ tergiversan la forma en que percibimos la evidencia?

Para el efecto, ahí están los bodegueros del compañero presidente Gustavo Petro. Múltiples activistas prepago (probablemente, con los impuestos de los colombianos) con ínfulas de influencers que, emplean la tecnología para generar controversia, atacar a la oposición y desinformar a la audiencia de las redes sociales y los medios de comunicación alternativos. Como sabrá, los deepfakes son medios sintéticos creados utilizando técnicas de inteligencia artificial, que a menudo implican algoritmos de aprendizaje profundo. Pueden manipular audio, video o imágenes para que parezca como si alguien estuviera diciendo o haciendo algo que no hizo. El aumento de los deepfakes tiene implicaciones relevantes sobre cómo vemos la evidencia en diversos contextos.

En ese orden de ideas y porque el asunto parece estarse saliendo de madres, me di a la tarea de investigar en el entorno digital cuáles son los sectores más afectados y sus respectivas implicaciones. A continuación, mis principales hallazgos:

Procedimientos legales— En los casos legales, las grabaciones de video y audio se han considerado tradicionalmente formas de prueba sólidas. Sin embargo, la aparición de deepfakes genera preocupaciones sobre la autenticidad de dicha evidencia. Los deepfakes se pueden utilizar para crear coartadas falsas, manipular declaraciones de testigos o incluso fabricar confesiones, desafiando la credibilidad de las pruebas presentadas ante el tribunal.

Noticias y periodismo— Los deepfakes se pueden utilizar para crear imágenes de noticias o entrevistas convincentes con figuras públicas, engañando al público y distorsionando el discurso público. Esto desafía el papel tradicional del periodismo como fuente de información verificada, lo que dificulta que las audiencias distingan las noticias reales del contenido manipulado.

Manipulación política— Los deepfakes se pueden emplear para crear discursos, entrevistas o respaldos falsos a candidatos políticos. Este tipo de contenido manipulado puede influir en la opinión pública, influir en las elecciones y socavar el proceso democrático al difundir información falsa sobre los candidatos.

Negocios y fraude— Los deepfakes se pueden utilizar en espionaje o fraude corporativo. Diga usted, por ejemplo; se podría utilizar un deepfake de un director ejecutivo para hacerse pasar por él, instruyendo a los empleados a transferir fondos o revelar información confidencial. De manera similar, los deepfakes se pueden utilizar para crear demostraciones o testimonios de productos falsos, engañando a los consumidores.

Ingeniería social— Los deepfakes se pueden emplear en ataques de phishing, en los que un mensaje de vídeo o audio falso parece provenir de una fuente confiable, engañando a las personas para que revelen información confidencial, hagan clic en enlaces maliciosos o transfieran dinero.

Daño a la reputación— Se pueden crear deepfakes para dañar la reputación de individuos, empresas o figuras públicas haciéndolos parecer involucrados en actividades inapropiadas o ilegales. Incluso si luego se demuestra que es falso, el daño a la reputación de uno puede ser grave y perdurable.

En ese orden de ideas, y para abordar dichos desafíos, los investigadores y tecnólogos están desarrollando herramientas avanzadas para detectar deepfakes (aunque, por lo pronto, tocará estar muy atento al contenido tendencioso y de dudosa procedencia publicado por los susodichos bodegueros del compañero presidente Gustavo Petro). Por lo demás, los sistemas legales se están adaptando para considerar las implicaciones de esta tecnología y hay debates en curso sobre regulaciones y políticas para combatir el uso indebido de deepfakes en diversos contextos. Sin embargo, a medida que mejoran las técnicas de detección, también lo hacen los métodos utilizados para crear deepfakes convincentes, lo que lo convierte en un desafío continuo y en evolución para la sociedad.