La preocupación por los defensores crece en América Latina. Según un informe reciente de la plataforma de Kapwing, Argentina lidera el interés regional en esta tecnología, seguido de Chile, Perú y Colombia, con 481, 337 y 141 búsquedas mensuales respectivamente relacionadas con DeepFakes.
Existe una conciencia sobre el uso malicioso de esta herramienta digital, que se basa en la inteligencia artificial para crear videos o audios falsos que simulen ser real. Sin embargo, la acción regulatoria y técnica avanza a un ritmo mucho más lento, que afecta a diferentes sectores de la sociedad, según el Dr. Francisco José Adán Castraño, abogado y maestro del dominio oficial en derecho digital y la ciberseguridad de la Universidad Internacional de Valencia – Viu, que pertenece a la red internacional de capacitación en planetas de educación superior y universidades.
«Los políticos son probablemente los más afectados en este tema. Videos falsos de candidatos que dicen cosas que nunca dijeron justo antes de las elecciones … es una pesadilla para la democracia «, advierte al experto en VIU.
Legislación digital que se retrasa
El avance tecnológico de los defectos de profundidad contrasta con la lentitud de los marcos regulatorios en América Latina. Los sistemas judiciales deben improvisar con las regulaciones de difamación o fraude, que no siempre son efectivos. Además, la transnacionalidad del entorno digital complica aún más la aplicabilidad legal.
«Las leyes son muy lentas en comparación con la tecnología», señala el Dr. Francisco Adán Cataño, quien también es experto en IA y propiedad intelectual. «Muchos países ni siquiera tienen leyes específicas para los defectos. Internet no tiene fronteras. ¿Qué ley se aplica, dónde se hizo, dónde subió o dónde vio?
A esta debilidad normativa se agrega la falta de capacitación técnica en las autoridades responsables. La policía o los jueces a menudo no están suficientemente capacitados para los aviones tecnológicos habituales, y el tiempo para comprender y descifrar el tema de los defensores profundos, se evidencia la falta de capacitación técnica.
Tecnología versus tecnología
El avance de los profundos ha dado lugar a una verdadera carrera armamentista entre creadores y detectores, donde el aprendizaje automático se erige como centro. Entrenan con millas de videos reales y falsos para sofisticar la capacidad de detección.
Es, como lo indica el experto en propiedad intelectual, privacidad y nuevas tecnologías, un juego del gato y el ratón, donde con cada mejora de los detectores los profundos son más sofisticados.
Hoy hay algoritmos de detección que identifican anomalías invisibles al ojo humano, como patrones o distorsiones parpadeantes en la luz facial. El aprendizaje automático es clave en esta tarea, sistemas de capacitación con videos reales y falsos para distinguir patrones.
La autenticación de blockchain es otra línea prometedora que permitiría que se cree un video, se registra de tal manera que sea inalterable, de modo que se evidencia cualquier tipo de modificación. Y si se habla de audio, el análisis puede basarse en patrones vocales, pausas y respiración.
Soluciones compartidas para luchar
El problema de DeepFakes no tiene una solución única. Requiere una acción coordinada entre gobiernos, empresas de tecnología, desarrolladores, plataformas y sociedad civil.
«Los gobiernos deben hacer leyes que tengan sentido y que puedan aplicarse en la realidad, no solo en el papel», enfatiza el experto. «También necesito entrenar a su gente y cooperar internacionalmente porque esto trasciende las fronteras».
El portavoz de VIU también enfatiza el papel de las plataformas digitales. Redes como Facebook, Tiktok, YouTube necesitan hacer una inversión para detectar y eliminar profundos maliciosos, dejando a un lado la neutralidad. Y la responsabilidad de los usuarios de estas redes también contribuiría a este panorama.
«La sociedad civil tiene un papel importante», dice. «Los medios de verificación de hechos están haciendo un buen trabajo, pero necesitamos más. También necesitamos universidades para investigar más sobre la detección y que hay más programas educativos sobre alfabetización digital ».
La tecnología que dio lugar al problema también puede ser parte de la solución. Pero sin marcos legales adecuados y una conciencia crítica extendida en la región, América Latina podría estar expuesta a un futuro en el que lo verdadero de los falsos ya no se puede distinguir.
31
