Proyecto busca frenar el uso de deepfakes en campañas electorales

• El diputado Oscar Agost Carreño presentó un proyecto para combatir la manipulación electoral con deepfakes, videos falsos generados por IA.
• Propone modificar el Código Nacional Electoral para inhabilitar candidatos involucrados en creación, difusión o financiamiento de estos contenidos falsos, afectando incluso a toda la lista si hay connivencia.
• Busca que la Justicia Electoral actúe rápidamente para frenar la desinformación durante campañas.
• Cita casos recientes en Argentina de videos y audios manipulados que perjudicaron a políticos.
• Advierte que estas prácticas dañan la voluntad popular y el sufragio informado.
• El proyecto apunta a imponer sanciones ejemplares para evitar una crisis de legitimidad democrática por el uso fraudulento de la IA.

En un contexto donde la inteligencia artificial (IA) avanza rápidamente y comienza a influir decisivamente en la comunicación política, el diputado nacional Oscar Agost Carreño presentó un proyecto de ley pionero que apunta a combatir la manipulación digital en las elecciones a través de contenidos falsos generados por IA, conocidos como deepfakes.

La iniciativa propone modificar el Código Nacional Electoral para inhabilitar como candidatos a quienes participen en la creación, difusión o financiamiento de campañas políticas basadas en información falsa generada digitalmente. Además, establece que toda la lista electoral podrá ser descalificada si se prueba una connivencia directa.

“La IA puede ser una herramienta para el bien común, pero también un arma de manipulación masiva. No podemos permitir que las elecciones se definan por mentiras sintéticas viralizadas”, declaró Agost Carreño durante la presentación del proyecto.

El texto incorpora un mecanismo rápido y eficiente para que la Justicia Electoral intervenga de forma urgente durante las campañas, evitando que la desinformación se propague sin control y afecte la transparencia del proceso electoral.

El proyecto hace referencia a casos recientes que alertaron al sistema político argentino, como un video falso generado con IA que mostraba al expresidente Mauricio Macri apoyando a un candidato durante la veda electoral, afectando la imagen de su compañera de partido. También menciona el uso no autorizado de la voz del cantante “La Mona” Jiménez en jingles manipulados y discursos apócrifos atribuidos al gobernador Martín Llaryora.

Para el diputado de Encuentro Federal, estas prácticas representan “un atentado contra la voluntad popular”, pues “rompen el principio básico del sufragio informado y libre, al distorsionar la percepción de los votantes con recursos digitales que son difíciles de detectar y desmentir a tiempo”.

Agost Carreño remarcó que “si no hay consecuencias, el uso fraudulento de la IA puede derivar en una crisis de legitimidad democrática”, y con esta iniciativa busca establecer sanciones ejemplares para preservar la integridad del sistema electoral argentino.