Panorama de la Inteligencia Artificial en México
Resumen ejecutivo y recomendaciones para el diseño de una estrategia nacional de IA para Mexico con énfasis en la importancia del sandbox de IA.
Organizaciones aliadas estratégicas
Introducción
En la era de la transformación digital, la llamada cuarta revolución industrial o sociedad 5.0, la inteligencia artificial (IA) es uno de los pilares fundamentales para el desarrollo. La capacidad de la IA, aunado a los grandes volúmenes de datos que se generan y procesan a nivel global, brinda una gran oportunidad de aprender, tomar decisiones complejas, así como mejorar la eficiencia en diversos sectores. Sin embargo, esta revolución tecnológica también plantea desafíos significativos para la humanidad, las soberanías, así como para los modelos jurídicos. Por tanto, la ética y los derechos humanos deberán guiarnos para enfrentar estos desafíos.
El presente reporte tiene como objetivo proporcionar una actualización sobre el estado de la IA en México, teniendo como referente el documento “Hacia una estrategia de IA en México: Aprovechando la revolución de la IA”. Además, se hace una revisión del panorama internacional y nacional, poniendo especial atención al proyecto de Sandbox regulatorio de IA, que se realizó con auspicio de la Embajada de Reino Unido en México y con la colaboración de la ANIA, del Senado de la República, y de los organismos constitucionales autónomos: INAI, IFT, COFECE, INEGI, que participaron en los conversatorios del proyecto.
Mediante este análisis documental del panorama internacional en materia de IA, buscamos ofrecer recomendaciones estratégicas que guíen la formulación de una Estrategia Nacional de IA, con particular interés en promover la colaboración de los actores interesados, particularmente los reguladores, bajo la figura del sandbox en materia de IA.
Para elaborar este reporte se revisaron los avances en el plano internacional, para identificar postulados, principios, declaraciones y acuerdos entre naciones u organizaciones multilaterales. Posteriormente, se hizo una revisión del estado de desarrollo de la IA en México, así como los avances en materia de digitalización, gobernanza y marco normativo. Finalmente, el reporte presenta los resultados de las mesas de discusión del proyecto de Sandbox regulatorio de IA, donde participaron diversos actores.
En el primer capítulo, se realiza una revisión del documento “Recomendaciones del documento Hacia una estrategia de IA en México: aprovechando la revolución de la IA”, para identificar cuáles de las recomendaciones de 2018 siguen vigentes y si se ha avanzado en el cumplimiento de algunas.
En el segundo capítulo se explora el panorama internacional, revisando índices e indicadores clave que destacan el progreso y la adopción de la digitalización a nivel mundial y que resultan aplicables a la IA.
Se examinan también declaraciones, principios y estrategias que han adoptado diferentes países, así como algunas de las regulaciones en materia de IA. Este análisis permite identificar tendencias globales.
El tercer capítulo se centra en el panorama de México, mostrando el contexto actual, los avances en políticas públicas y la regulación, así como las iniciativas de actores de los diferentes sectores. Se analiza cómo México se está posicionando en el escenario de la IA. Este capítulo pretende ofrecer una visión clara del ecosistema de IA en México, destacando las áreas en las que el país puede mejorar y las oportunidades que debe aprovechar para fortalecer su desarrollo tecnológico y competitividad global.
En el cuarto capítulo se documenta el Proyecto Sandbox Regulatorio de IA, diseñado para recabar información sobre los retos que enfrentan los reguladores ante escenarios donde los usuarios o sujetos regulados están utilizando IA para la prestación de servicios. A lo largo del proyecto se recopilaron opiniones y experiencias de los participantes relacionadas con la adopción y desarrollo de proyectos de IA.
A partir de esta revisión y con las aportaciones de las personas que participaron en los conversatorios, el reporte brinda una serie de recomendaciones dirigidas a fortalecer la gobernanza y política pública en materia de la IA en México. Estas recomendaciones están diseñadas para asegurar que México se mantenga a la vanguardia en la adopción de tecnologías de IA y atienda de manera efectiva los desafíos éticos, sociales, económicos y jurídicos asociados con su implementación en todos los ámbitos.
Con este reporte esperamos contribuir al desarrollo de una Estrategia Nacional de IA que sea inclusiva, sostenible y orientada hacia el futuro, contemplando el intercambio de experiencias y buenas prácticas en materia de mecanismos novedosos como el sandbox, que permiten analizar y ajustar la regulación de la IA caso por caso, con la participación de diversos actores, marcando un paso decisivo hacia la consolidación de México como líder en materia de inteligencia artificial en Latinoamérica.
Resumen ejecutivo
La evolución de la inteligencia artificial (IA) en las últimas décadas ha transformado la manera de ver el mundo y de pensar. Su impacto en la vida cotidiana y en el futuro hace necesario reflexionar y tomar acciones que nos permitan diseñar nuevas vías para el desarrollo, inclusión, igualdad, ejercicio de derechos y libertades, así como para fomentar la innovación, poniendo siempre a la persona y sus derechos al centro.
Con el avance acelerado de la inteligencia artificial veremos cómo aumenta gradualmente el uso de sistemas de IA en el sector público y privado, en distintos sectores: telecomunicaciones, educación, trabajo, salud, turismo, movilidad, servicios financieros, entretenimiento, entre muchos otros.
Para obtener beneficios de la IA, mediante su uso ético, responsable, confiable y seguro, así como para la gestión de riesgos potenciales de estas herramientas o de los datos que la alimentan y servicios que la utilizan, es de suma importancia conocer cuál es el estado de avance de la Inteligencia Artificial en México.
Es evidente que la IA brinda un campo fértil para oportunidades de desarrollo, pero al mismo tiempo, su aplicación implica un conjunto de desafíos políticos, tecnológicos, éticos, jurídicos y socio culturales.
Este reporte presenta un panorama internacional de las propuestas para fomentar y regular el desarrollo de la IA, además de mostrar el estado actual de avance de la IA en México. Algunos componentes analizados para conocer el estado de la IA en México incluyen desde políticas públicas en materia digital hasta retos operativos que enfrentan los reguladores en materia de diseño de regulación. Además, el Reporte presenta los resultados obtenidos de una serie de conversaciones en torno al Sandbox regulatorio de IA.
Este reporte tiene como primer objetivo brindar una actualización sobre el estado de la IA en México, teniendo como referente el documento “Hacia una Estrategia de IA en México: Aprovechando La Revolución de la IA”, que se elaboró y publicó en 2018 e incluía 21 recomendaciones generales para el desarrollo de la política de IA en México. El segundo objetivo es presentar los hallazgos del proyecto Sandbox regulatorio de IA, que se realizó con apoyo de la Embajada de Reino Unido en México y con la colaboración de la Alianza Nacional de Inteligencia Artificial (ANIA), el Senado de la República y de organismos constitucionales autónomos: INAI, IFT y COFECE, además de la participación y contribuciones de otros actores relevantes en el ecosistema digital de México.
Recomendaciones
Las recomendaciones de este Reporte se elaboraron a partir del análisis sobre la vigencia de las 21 recomendaciones incluidas en el documento de 2018; los hallazgos de la investigación del panorama internacional y nacional, así como de las experiencias y aportaciones de las organizaciones y personas expertas que participaron en los conversatorios del proyecto Sandbox regulatorio de IA en México.
1. Recomendaciones para el diseño de la Estrategia Nacional de IA en México
1. Definir y establecer la Estrategia Nacional de IA, con visión de Estado, articulada a otras políticas públicas para dar solidez al rumbo de la IA en México.
La Estrategia nacional de IA “debe estar fuertemente articulada con la Estrategia Digital Nacional” ya que los pilares de la Estrategia de IA son en gran medida las acciones que se contemplan en aquella, es decir en materia de desarrollo digital.
En materia de Estrategia Nacional de IA se considera fundamental contemplar visión de largo plazo; definir liderazgo e institucionalizar a la autoridad responsable del diseño, ejecución y evaluación de la Estrategia; incorporar los principios éticos, valores, y mejores prácticas y estándares internacionales en la materia; promover la colaboración con los diversos actores involucrados (gobierno, sector privado, academia, sociedad civil, población en general); impulsar la investigación, desarrollo e innovación; fomentar la inversión público-privada en materia de IA; proteger los derechos de las personas usuarias, así como las obligaciones y responsabilidades de desarrolladores y proveedores de sistemas de IA.
2. Se considera fundamental crear una Agencia de Desarrollo Digital, Innovación y Tecnologías Emergentes (ADDyTE) que incorpore y establezca las bases del desarrollo digital, la innovación como proceso permanente y aproveche las tecnologías emergentes como IA, blockchain, metaverso, robótica, 5G, cómputo en nube, entre otras.
La persona líder debe estar al más alto nivel del ejecutivo federal, en la Oficina de la Presidencia de la República, y contar con capacidad para coordinar a las dependencias y entidades del gobierno federal, así como para colaborar con los otros Poderes de la Unión, gobiernos locales, órganos autónomos constitucionales y los sectores privado, académico y social. La Agencia deberá fomentar la colaboración con otros actores y la cooperación internacional, entre otros aspectos.
3. Nombrar una persona o grupo de trabajo líder y responsable de la gestión de riesgos de la IA en el contexto de la Estrategia Nacional de IA.
4. Impulsar la creación o consolidación y articulación de las políticas públicas de desarrollo digital estatales y municipales.
5. Fortalecer las capacidades de los organismos constitucionales autónomos (IFT, COFECE, INAI e INEGI) como órganos reguladores digitales, según sus atribuciones.
6. Fortalecer las capacidades de la Procuraduría de Protección al Consumidor (PROFECO) en materia digital.
7. A los organismos constitucionalmente autónomos se recomienda la creación de áreas de “desarrollo digital, innovación e IA” con el objetivo de que asuman el liderazgo de la innovación y el uso de tecnologías emergentes como la IA en el desempeño de sus funciones, así como mejorar la eficiencia de los procesos de las diferentes áreas.
8. Incluir la participación de actores de diferentes sectores en la construcción y ejecución de la Estrategia Nacional de IA. Crear foros, promover iniciativas de colaboración entre sectores y poner el énfasis en proyectos que promuevan la colaboración con actores del sector educativo y empresarial y la transferencia de conocimiento.
9. Crear el Consejo Nacional de IA, que esté contemplado en la política pública e instituida por Ley. Este Consejo debe ser un grupo amplio, de diversos perfiles y sectores.
10. Identificar la continuidad de mecanismos de parlamento abierto que permita la colaboración del ecosistema digital en los procesos de desarrollo de políticas, regulación e iniciativas en IA. Se recomienda la institucionalización de un cuerpo técnico especializado en tecnologías emergentes como la IA, para favorecer el quehacer legislativo en ambas cámaras del Congreso.
Se recomienda la institucionalización de un cuerpo técnico especializado en tecnologías emergentes como la IA, para favorecer el quehacer legislativo en ambas cámaras del Congreso.
11. Crear una Comisión Intersecretarial de Desarrollo digital, innovación e IA o crear la Subcomisión de IA, en carácter de permanente, dentro de la CITICSI.1
12. Conformar una red de profesionales, personas expertas en IA, de diferentes sectores y campos del conocimiento, para que contribuyan al desarrollo de la Estrategia de IA y para fortalecer los trabajos del Consejo Nacional de IA.
13. Diseñar un programa de estudios modelo en materia de IA y un banco de recursos y materiales de consulta, en diferentes niveles educativos, con la colaboración de la SEP, CONAHCyT y actores interesados de la industria, que otras universidades retomen para diseñar sus propios planes de estudio.
14. Fortalecer la coordinación y cooperación internacional en materia de IA, mediante el avance de las iniciativas a nivel país y la promoción de iniciativas regionales e internacionales.
15. México debe ser parte del Consejo Latinoamericano de IA, y formar parte de discusiones regionales en la materia.
16. Crear un Centro Nacional para la investigación de la IA.
Este Centro debe de estar financiado con recursos públicos y privados para la investigación y desarrollo en IA. Un Centro especializado podrá impulsar el surgimiento de nuevas materias, preparación de más especialistas en IA y contribuir al cumplimiento de los planes nacionales y estatales de desarrollo.
Se sugiere explorar y conocer el funcionamiento del Instituto Alan Turing2, del Reino Unido y del Instituto de IA de Quebec (MILA)3 de la provincia de Quebec, Canadá.
Es fundamental contemplar inversión público-privada para investigación y desarrollo, así como programas de colaboración del sector privado y áreas de investigación para intercambio de conocimiento.
Reconocer la importancia de la cooperación y coordinación internacional impulsar el intercambio internacional y nacional de la comunidad científica en materia de Desarrollo e Investigación para IA.
17. Fortalecer al Consorcio en Inteligencia Artificial4 creado entre Centros Públicos de Investigación.
18. Fortalecer la relación entre gobierno, academia e industria en IA:
a) Introducir consejos sectoriales.
b) Crear fondos público-privados en materia de investigación, desarrollo y promoción de la IA en diferentes sectores.
c) Apoyo al emprendimiento y surgimiento de empresas (spin-outs) donde sus socios sean profesores, investigadores, alumnos. Promover acceso a capital semilla disponible en México, facilitar el acceso a rondas de inversión, créditos con instituciones públicas y privadas, proyectos de aceleración, de asesoría y acompañamiento para emprendedores con ideas de gran potencial y para empresarios del sector de IA.
d) Crear programas de agentes de innovación para que el gobierno integre a personas emprendedoras o académicos y fortalezcan los procesos internos de las entidades del sector público.
19. Crear un ambiente propicio para la investigación comercial y la IA aplicada en el sector privado. Crear fondos nacionales e internacionales, fideicomisos público-privado, para el emprendedurismo, fondos de inversión, incubadoras para proyectos que desarrollen IA, y una plataforma de vinculación entre emprendedores de IA con pequeñas y medianas empresas.
20. Elaborar una Encuesta Nacional sobre IA o incorporar un capítulo de IA en alguna otra (ENDUTIH y ENOE, por ejemplo).
21. Promover los entornos controlados (sandbox) y metodologías flexibles en la aplicación de IA a diferentes políticas y sectores como transferencia de datos, identidad y protección de datos personales, telecomunicaciones, competencia económica, entre otros. Siempre considerando las oportunidades de la coordinación y la cooperación internacional para no solo tener una conversación local sino también a nivel regional y global.
22. Crear nuevos incentivos fiscales para investigación y desarrollo de IA aplicada.
23. Aumentar el número de programas de posgrado y de egresados de maestrías y doctorados en IA y ciencia de datos.
24. Dar prioridad a la Política Nacional de Datos Abiertos y unificar procesos con la Política de Gobierno Abierto federal, así como la unificación de estándares en materia de datos abiertos y metadatos, para garantizar la calidad de los datos y reducir los sesgos.
25. Crear bases de datos mexicanas que sirvan como entrenamiento para el desarrollo de sistemas de IA para reflejar mejor el contexto, diversidad y cultura nacional, con el objetivo de reducir sesgos y discriminación.
26. Crear el marco jurídico en materia de IA con la finalidad de crear la Estrategia Nacional de IA, establecer valores como el respecto a los derechos humanos y principios generales y éticos; señalar derechos y obligaciones de los proveedores de sistemas de IA, identificar riesgos y acciones para mitigarlos, así como medidas para promover la IA y sancionar usos indebidos, entre otras.
27. Actualizar la regulación de los temas habilitadores de la IA, como protección al consumidor, regulación en materia de datos personales, privacidad, transparencia, responsabilidad de proveedores de sistemas de IA en particular, responsabilidad y compromiso ético de proveedores cuyos bienes o servicios utilizan sistemas de IA y la gestión de riesgos de estos sistemas.
2. Recomendaciones particulares para el sandbox de IA
En las discusiones del proyecto de sandbox regulatorio para IA en México, hubo coincidencia en que esta figura implica diálogo y comunicación entre quien está implementando la tecnología y los reguladores. Así, los reguladores aprenden y conocen el alcance de estas nuevas tecnologías, a la vez que pueden identificar los riesgos en su implementación. Estas pruebas en entornos controlados permiten a los regulados y reguladores determinar si el modelo novedoso amerita una intervención regulatoria y de qué tipo.
Precisamente porque la mayoría de los alcances y riesgos potenciales de las nuevas tecnologías sólo pueden identificarse si se observa a las innovaciones en acción, en estas discusiones también se destacó la necesidad de que cualquier esfuerzo regulatorio sea suficientemente flexible para adaptarse al desarrollo acelerado de la IA, además de que debe estar basado en un conocimiento profundo de esta tecnología.
A. Recomendaciones para el ejecutivo federal (Agencia de Desarrollo Digital, Innovación e IA)
El sandbox regulatorio, como metodología y buena práctica en el proceso regulatorio, debe probar la eficacia de la ley y del modelo de gobernanza de datos. Por lo que se sugiere:
1. Valorar la conformación de mecanismos de colaboración de actores para el diseño, seguimiento y generación de información reutilizable y datos abiertos, con motivo de estos ejercicios tipo Sandbox (gobernanza de datos por diseño, considerando estándares internacionales).
2. Determinar cuáles son los proyectos que pueden implementarse a corto, mediano y largo plazo, y cuáles requieren mayores elementos diagnósticos en el marco de un proyecto estratégico que defina cada dependencia o entidad del gobierno federal según sus atribuciones y prioridades.
B. Recomendaciones para el Congreso de la Unión o reguladores
El sandbox regulatorio es una oportunidad para probar y ajustar el marco legal directa o indirectamente relacionados con la IA, así como para consolidar la gobernanza de la IA, a partir del aprendizaje en la observación de las aplicaciones y casos de uso de la IA y otras tecnologías emergentes, se evalúe si es necesaria la modificación o no de la regulación existente con la finalidad de garantizar el cumplimiento de derechos, principios éticos, el uso seguro, responsable y fiable de la IA, así como el fomento a la innovación al uso seguro de esta tecnología.
En las conversaciones se destacó que será útil contar con un mecanismo sandbox regulatorio que aplique a cualquier sector ante el uso de cualquier tecnología emergente, como figura de acompañamiento que evalúe cualquier modelo novedoso, por lo que se recomienda:
3. Incorporar la figura del sandbox como una figura vinculante, instituirla en el ordenamiento correspondiente de cada regulador, a fin de que cada organismo o autoridad tenga mayores espacios y posibilidades de experimentación en casos donde se involucren tecnologías emergentes como la IA.
En la aplicación de la figura sandbox, los expertos sugieren tener una entidad o responsable de supervisar el desarrollo del mismo. En este contexto se sugiere:
4. Promover que la figura regulatoria que institucionalice el sandbox tenga la posibilidad de designar un regulador líder (según el sector que implemente el mecanismo) y que pueda convocar a reguladores que se vean involucrados en la evaluación del caso de estudio.
C. Recomendaciones para los Reguladores
En la aplicación del sandbox se sugiere:
5. Involucrar a personas expertas en distintas disciplinas y sectores relacionados con el caso en estudio, para identificar los posibles riesgos en la experimentación de un caso específico.
6. Retomar, definir y desarrollar el concepto del valor del dato con el objeto de determinar sus calidades y características para proporcionar los resultados esperados.
7. Proyectos que el INAI podría aportar en conjunto o en colaboración con los actores relevantes para implementar del Sandbox regulatorio:
- atender un sandbox en materia de Gobernanza de Datos
- proyecto de implementación para la política nacional de datos abiertos
- proyecto de etiquetado de información (para accesibilidad, disponibilidad y seguridad de la información) relacionado con la conformación de un estándar técnico y legal interoperable, bajo una colaboración público – privada, para que toda la información pública pueda ser accesible y utilizable con los permisos que se establezcan mediante algoritmos de inteligencia artificial
D.Recomendaciones para sector privado
En general, se recomienda la creación de asociaciones público-privados para identificar las áreas de oportunidad y prioridades por sector. Además de fomentar la colaboración entre sector público, academia y sector privado a fin de:
8. Alentar a los miembros de la industria a crear y compartir recursos sobre tecnologías, herramientas y aplicaciones de IA.
9. Promover la educación multisectorial para ampliar la comprensión de la IA más allá del ámbito académico.
10. Promover la apertura para el intercambio de experiencias y la adopción de estándares internacionales y buenas prácticas en materia de IA.
11. Promover la generación de diversos mecanismos de experimentación (por ejemplo: prototipos de política pública, pilotos, laboratorios, hub de innovación, etc.) para inscribir los proyectos o casos de uso de sistemas IA previo al desarrollo de Sandbox regulatorio.
E. Recomendaciones para la Academia y Sociedad Civil
12. Facilitar debates sobre la IA, sus aplicaciones, riesgos y oportunidades en diversas plataformas para fomentar una comprensión multisectorial de la tecnología.
13. Promover la divulgación científica en materia de IA, para toda la población.
14. Aprovechar las asociaciones de múltiples partes interesadas, como la Asociación para la IA, como plataforma para el diálogo y la colaboración multisectorial.
En todo proyecto de innovación en la que se explore, desarrolle y ejecute un sandbox deberá documentarse toda la experiencia y generar literatura al respecto (libros blancos). Lo anterior para construir sobre evidencia y experiencias previas, sortear mejor la curva de aprendizaje en los cambios de administraciones del ejecutivo y legislativo.
Finalmente, dentro de las recomendaciones específicas en materia de sandbox, se considera importante que cada sujeto obligado designe un coordinador del mecanismo de innovación, incluyendo el sandbox, al inicio del proceso de innovación.