La incorporación de la inteligencia artificial (IA) en el ámbito público mexicano ha aumentado considerablemente en tiempos recientes. No obstante, este progreso tecnológico ha sido acompañado por inquietudes acerca de la transparencia y la responsabilidad en su aplicación por las entidades gubernamentales.
Situación presente de la IA en el ámbito público en México
Científicos del Centro de Investigación y Docencia Económicas (CIDE) han detectado al menos 119 usos de IA en funcionamiento dentro de los tres poderes de la Unión y los tres niveles de gobierno en México. Estas herramientas incluyen desde chatbots para servicio al ciudadano hasta sistemas de análisis de datos para apoyar en la toma de decisiones. No obstante, acceder a detalles específicos sobre estas aplicaciones ha resultado complicado debido a la falta de transparencia y la reticencia de ciertas instituciones a ofrecer información precisa sobre su utilización y operativa.
Retos en la transparencia y acceso a la información
Con el propósito de impulsar la transparencia, académicos del CIDE han creado un registro de algoritmos empleados por el sector público en México. Este esfuerzo tiene como objetivo documentar las aplicaciones de IA en diversas instituciones y subrayar los obstáculos para acceder a información esencial sobre su uso, regulación y fines. Durante el proceso de obtención de datos, se enviaron cerca de 2,200 solicitudes de transparencia a entidades gubernamentales. Sin embargo, muchas dependencias mostraron reticencia a la hora de proveer información o respondieron de forma ambigua. En ciertas ocasiones, las instituciones solo admitieron el uso de IA tras interponer recursos de revisión ante los entes de transparencia. Estados como el Estado de México y Nayarit se destacaron por su falta de respuesta generalizada.
Confusión y escasa comprensión sobre la IA
Un problema adicional detectado es el desconocimiento dentro de las mismas instituciones acerca de qué se considera una aplicación de IA. En varias respuestas a las solicitudes de transparencia, las entidades mencionaron herramientas de software convencional, como paquetes de oficina o programas de ciberseguridad, como si fueran inteligencia artificial. En conjunto, 223 aplicaciones reportadas no cumplían con los requisitos fundamentales para ser clasificadas como IA, lo que evidencia un problema de desinformación incluso en departamentos de tecnología de la información en el gobierno.
Otro problema identificado es la falta de conocimiento dentro de las propias instituciones sobre qué constituye una aplicación de IA. En muchas respuestas a solicitudes de transparencia, las dependencias listaron herramientas de software tradicional, como suites de oficina o programas de ciberseguridad, como si se tratara de inteligencia artificial. En total, 223 aplicaciones reportadas no cumplían con los criterios básicos para ser consideradas IA, lo que refleja un problema de desinformación incluso en áreas de tecnología de la información dentro del gobierno.
Consideraciones éticas y riesgos asociados al uso de la IA
Urgencia de un marco normativo apropiado
Necesidad de un marco regulatorio adecuado
La falta de transparencia en el uso de IA por parte de los gobiernos resalta la necesidad de establecer marcos regulatorios que garanticen la auditabilidad y responsabilidad en el uso de estas tecnologías. Es esencial analizar las legislaciones en diferentes ámbitos e identificar cómo podrían ser utilizadas adecuadamente para garantizar que la implementación de IA respete los derechos de la ciudadanía y opere de manera ética y transparente.
