El pasado 3 de octubre los integrantes del Pleno del Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas de la Ciudad de México emitieron el Acuerdo 5038/SO/03-10/2024 mediante el cual se aprueba la “iniciativa con proyecto de decreto para expedir la ley para el uso de inteligencia artificial y el tratamiento de datos personales por sujetos obligados en la Ciudad de México” (la Ley IA).
Tuve la oportunidad de analizar esta novedosa iniciativa y a continuación le expongo los temas clave propuestos por ella, todos relacionados con la implementación de la inteligencia artificial en el sector público y su impacto sobre la protección de datos personales, de acuerdo con la Ley IA.
Marco constitucional y normativo
La Ley IA encuentra su base en el artículo 6º de nuestra Constitución Política, que garantiza el derecho al acceso a las tecnologías de la información y comunicación. Asimismo, se apoya en la Constitución Política de la Ciudad de México, que refuerza el acceso a la ciencia y la innovación tecnológica como un derecho universal, fundamental para el bienestar social.
Objetivo de la Ley IA en México
El principal objetivo de la Ley IA es regular su uso y el tratamiento de datos personales por parte de los sujetos obligados en la Ciudad de México, promoviendo un marco normativo que permita la innovación tecnológica dentro de un entorno seguro para los derechos fundamentales de las personas. La Ley IA busca equilibrar el uso de tecnologías avanzadas con la necesidad de proteger los datos personales y garantizar la privacidad.
Sujetos obligados
Los “sujetos obligados” incluyen a todas las entidades públicas de la Ciudad de México que utilicen IA para la prestación de servicios o la toma de decisiones. Estas entidades estarán obligadas a cumplir con las disposiciones de la Ley IA para garantizar que los datos personales sean tratados de manera adecuada y conforme a los principios de legalidad, transparencia, proporcionalidad y seguridad.
Principios rectores en el uso de IA
- La Ley IA establece varios principios fundamentales para el uso de la IA en la Ciudad de México:
- Transparencia: los sistemas de IA deben ser transparentes en cuanto al uso de datos y a las decisiones tomadas por éstos.
- Responsabilidad algorítmica: se exige la rendición de cuentas por las decisiones tomadas por algoritmos, especialmente cuando afectan derechos humanos.
- Equidad: las tecnologías deben aplicarse sin discriminación y deben promover la equidad en su implementación.
- Protección de datos: el tratamiento de los datos personales debe cumplir con los principios de minimización de datos, exactitud, confidencialidad y seguridad.
Evaluación de impacto
Uno de los puntos más relevantes de la Ley IA es la obligatoriedad que impone para realizar evaluaciones de impacto antes de implementar cualquier sistema de IA que trate datos personales. Estas evaluaciones deben identificar los posibles riesgos a la privacidad y establecer medidas de mitigación. Se debe evaluar la robustez, fiabilidad y precisión de los sistemas de IA antes de su puesta en funcionamiento.
- Derecho a la información y rectificación
- La Ley IA contempla que las personas afectadas por decisiones automatizadas tienen derecho a lo siguiente:
- Conocer el tratamiento de sus datos y la lógica subyacente en las decisiones automatizadas.
- Solicitar rectificaciones cuando los datos utilizados sean incorrectos o incompletos.
- Oponerse al uso de sus datos en ciertos contextos, reforzando el principio de autodeterminación informativa en torno a los datos personales.
- Auditorías algorítmicas
Se establece la necesidad de realizar auditorías a los sistemas de IA para verificar su funcionamiento adecuado y la protección de los datos personales. Esto incluye revisiones periódicas de los algoritmos y los datos de entrenamiento utilizados, y validación de los resultados de las decisiones tomadas por sistemas automatizados para garantizar que no incurran en sesgos o errores.
- Transparencia y acceso público
El principio de transparencia también se aplica al acceso público de la información relacionada con los sistemas de IA que utilizan las entidades públicas. Esto incluye la divulgación de las evaluaciones de impacto, las decisiones tomadas por sistemas automatizados y los datos utilizados, aunque con restricciones para proteger la seguridad y la privacidad de los datos personales.
- Sanciones y responsabilidades
La Ley IA prevé un marco de sanciones para las entidades públicas que incumplan con las disposiciones relativas al uso de IA y la protección de datos. Las sanciones pueden incluir multas y otras medidas administrativas. Además, se reconoce la posibilidad de que los ciudadanos afectados por decisiones automatizadas puedan interponer acciones legales en defensa de sus derechos.
- Cooperación internacional
La Ley IA está alineada con principios y estándares internacionales de organismos como la OCDE y la UNESCO. La cooperación internacional se fomenta para promover mejores prácticas en el uso de IA y la protección de datos, buscando seguir los avances regulatorios en otras partes del mundo, como la Ley Europea sobre IA y las políticas similares adoptadas por el gobierno de los Estados Unidos.
- Aplicación sectorizada
La Ley IA propone que las regulaciones sobre IA se aplicarán de manera sectorizada, atendiendo a las particularidades de cada área de la administración pública. Esto deberá permitir un enfoque flexible y adaptado a las necesidades específicas de cada sector, sin imponer una carga regulatoria excesiva.
- Fomento a la innovación tecnológica
La Ley IA busca promover la innovación tecnológica dentro del marco legal, incentivando el desarrollo de nuevas tecnologías y aplicaciones de IA que respeten la privacidad y los derechos de las personas. Se establece la necesidad de fomentar la colaboración entre el sector público, privado y académico para desarrollar tecnologías que contribuyan al bienestar social sin comprometer los derechos fundamentales.
- Protección de grupos vulnerables
La protección de grupos vulnerables es un tema prioritario en la Ley IA, asegurando que la IA no perpetúe desigualdades ni genere discriminación. Se insta a que los sistemas de IA sean diseñados de manera inclusiva, garantizando el acceso equitativo y el respeto por los derechos de personas en situación de vulnerabilidad, como mujeres, niños, personas mayores y grupos marginados.
- Gobernanza digital y seguridad
La Agencia Digital de Innovación Pública de la Ciudad de México es una pieza clave en la implementación de esta ley, dado que su labor es coordinar los esfuerzos de digitalización y garantizar que los sistemas de IA operen de manera segura y eficiente. La seguridad de la información y la ciberseguridad se establecen como componentes fundamentales para evitar filtraciones o mal uso de los datos personales.
Conclusión
La Ley IA, aún pendiente de ser analizada y (tal vez) aprobada por el Congreso de la Ciudad de México marca un hito en la gobernanza digital de nuestra capital. Me parece un buen esfuerzo para lograr la armonización de la innovación tecnológica con la protección de los derechos humanos, buscando que la IA se desarrolle de manera ética, transparente y segura.
Al regular el tratamiento de datos personales y establecer estándares de responsabilidad para los sujetos obligados, la Ley IA tiene la intención de proteger la privacidad de los ciudadanos en tanto impulsa el avance de la IA en el sector público.
Precio de Bitcoin de hoy
Puede ver el precio de hoy de Bitcoin aquí, así como también el precio de hoy de Ethereum y de las principales criptomonedas. Por Emilio Carrillo, abogado especializado en temas de financiamiento, tecnología y M&A. X: @ecarrillop; página web: pcga.mx. Las opiniones expresadas son personales del autor y no constituyen recomendaciones de inversión; las inversiones en tecnologías novedosas son de muy alto riesgo y cabe la posibilidad de que todos los recursos destinados a ellas podrían perderse.