Conforme se acerca la culminación de otro proceso electoral en México, nuestra nación enfrenta una creciente amenaza que tiene el potencial de socavar los cimientos de nuestro proceso democrático: el flagelo de los deepfakes creados por inteligencia artificial (IA).
Estas falsificaciones digitales increíblemente realistas tienen el poder de distorsionar la realidad, sembrar la división y erosionar la confianza en nuestras instituciones, los deepfakes erosionan la confianza en las instituciones
El surgimiento de los deepfakes, o videos y audios sintéticos generados por IA, ha sido un fenómeno global en los últimos dos años. Estas tecnologías avanzadas pueden usarse para manipular contenido multimedia incluidas imágenes fijas, insertando de manera fluida palabras o actos que nunca ocurrieron.
Si bien las aplicaciones potenciales de esta tecnología pueden parecer inofensivas o incluso benéficas en el ámbito del entretenimiento o la expresión creativa, representan un grave peligro cuando son utilizadas por actores maliciosos.
En el contexto de las elecciones presidenciales, los deepfakes tienen el potencial de ser utilizados para desacreditar candidatos, difundir desinformación y socavar la confianza pública en el proceso democrático.
Imagine un escenario en el que surge un video de un candidato presidencial haciendo comentarios inflamatorios o participando en comportamientos poco éticos que parece convincentemente real pero que de hecho es una fabricación total. Tal deepfake podría viralizarse rápidamente en las redes sociales, dominar el ciclo de noticias y potencialmente influir en las opiniones de millones de votantes; incluso si el deepfake se desacredita unas horas más tarde.
Estrategias para combatir los deepfakes
Para enfrentar este desafío, podemos adoptar un enfoque multifacético que combine soluciones tecnológicas, reformas políticas y educación pública. A continuación le presento dos estrategias que creo que pudieran implementarse para combatir los problemas posiblemente causados por los deepfakes durante nuestros procesos electorales; la próxima semana le presentaré otras dos:
- 1. Fortalecimiento de las capacidades de investigación y verificación digital forenses
La primera línea de defensa contra los deepfakes radica en nuestra capacidad para detectar y verificar la autenticidad de los contenidos digitales. Se debe invertir en el desarrollo de herramientas y técnicas forenses digitales avanzadas que puedan analizar archivos de audio, video e imágenes fijas en busca de signos de manipulación o contenido generado por IA.
Esto incluye aprovechar algoritmos de aprendizaje automático para identificar anomalías sutiles, así como construir sistemas robustos de seguimiento de metadatos para establecer la procedencia de los archivos digitales.
INE debe colaborar con otras instancias especializadas
A la vanguardia de este esfuerzo debería estar nuestro Instituto Nacional Electoral (INE), el cual debe contar con los recursos y la experiencia necesarios para establecer un programa integral de verificación digital. Esto podría implicar asociarse con firmas líderes en ciberseguridad, instituciones académicas y organizaciones internacionales para desarrollar capacidades de detección de última generación.
Además, deberíamos considerar el establecimiento de un centro nacional de autenticación de medios, donde los ciudadanos, periodistas y funcionarios gubernamentales podamos enviar contenidos sospechosos para su análisis y verificación.
Es crucial que los hallazgos de este programa de forense digital se hagan disponibles públicamente, con informes claros y transparentes en torno a la autenticidad de los contenidos digitales que circulan durante la temporada electoral. Al dotar a nuestros ciudadanos con las herramientas para discernir entre realidad y ficción, podemos capacitarlos para ser consumidores de información enterados y exigentes, reduciendo el impacto de los deepfakes y otras formas de desinformación.
2. Implementación de un marco regulatorio robusto
Si bien mejorar nuestras capacidades técnicas es esencial, también debemos abordar el desafío de los deepfakes a través de un sólido marco regulatorio. Actualmente, nuestras leyes en torno al uso de contenidos sintéticos y desinformación son limitadas en el mejor de los casos, poniendo a disposición de los actores maliciosos un vacío que pueden explotar fácilmente.
Para cerrar esta brecha, se deben aprobar nuevas normas que definan claramente los parámetros de uso aplicables al contenido generado por IA, impongan sanciones estrictas por la creación y difusión de deepfakes y otorguen facultades a las autoridades para tomar medidas rápidas contra los infractores.
Además, es necesario trabajar con plataformas de redes sociales, proveedores de servicios de Internet y otros intermediarios digitales para desarrollar una respuesta coordinada a la amenaza de los deepfakes.
Esto podría implicar la implementación de políticas proactivas de moderación de contenido, la creación de mecanismos de denuncia para deepfakes sospechosos, así como el desarrollo de sistemas colaborativos de alerta temprana para identificar y mitigar rápidamente la propagación de contenidos sintéticos.
Si bien ya es tarde para comenzar la implementación de las estrategias que planteo respecto del proceso electoral de este 2024, nada impide que comencemos a trabajar con miras al del 2027: para entonces los modelos de IA serán exponencialmente más poderosos que los actuales y habrá mucho más material de audio y video disponibles en Internet respecto de los futuros candidatos, haciendo la amenaza de los deepfakes aún más creíble.
Solo a través de un esfuerzo concertado y sostenido podemos asegurar que la voz de los electores mexicanos sea escuchada y que nuestros procesos electorales culminen en un verdadero reflejo de su voluntad.
Precio de Bitcoin de hoy
Puede ver el precio de hoy de Bitcoin aquí, así como también el precio de hoy de Ethereum y de las principales criptomonedas.
Por Emilio Carrillo, abogado especializado en temas de financiamiento, tecnología y M&A. Twitter: @ecarrillop; página web: https://pcga.mx/en/. Las opiniones expresadas son personales del autor y no constituyen recomendaciones de inversión; las inversiones en tecnologías novedosas son de muy alto riesgo y cabe la posibilidad de que todos los recursos destinados a ellas podrían perderse.