La inteligencia artificial (IA) está transformando diversos sectores, y su aplicación en la administración pública no es la excepción. Sin embargo, los desafíos y riesgos asociados con su uso han sido tema de debate entre expertos. En este contexto, el artículo titulado “Explorando los impactos negativos de la inteligencia artificial en el gobierno: el lado oscuro de los algoritmos inteligentes y las máquinas cognitivas”, coautoría del docente de la Unidad Académica Profesional Tianguistenco de la Universidad Autónoma del Estado de México (UAEMéx), David Valle Cruz, ha sido galardonado con el Premio a la Excelencia en Investigación en Ciencia y Tecnología 2024, otorgado por la Sección de Ciencia y Tecnología en el Gobierno de la Sociedad Estadounidense de Administración Pública (ASPA).

Este premio, de notable relevancia internacional, destaca el impacto y la calidad del trabajo de investigación en el uso de la IA en la administración pública. Valle Cruz, quien lideró el estudio, colaboró con Rigoberto García Contreras de la Universidad Nacional Autónoma de México y Ramón Gil García de la Universidad Estatal de Nueva York. El artículo fue publicado en la Revista Internacional de Ciencias Administrativas (IRAS), una publicación indexada en Web of Science y Scopus, perteneciente a la editorial SAGE.

Durante la pandemia de COVID-19, Valle Cruz y sus coautores identificaron la necesidad de explorar las desventajas y posibles errores del uso de la IA en el sector público. Utilizando la metodología PRISMA, el equipo revisó más de 700 documentos para identificar lo que denominaron el «lado oscuro» de la IA, abarcando aspectos tecnológicos, institucionales, políticos, legales y ambientales.

Valle Cruz y su equipo clasificaron los impactos negativos de la IA en cinco dimensiones clave:

  1. Errores y Sesgos Algorítmicos: Los algoritmos pueden presentar errores o sesgos que afecten la toma de decisiones.
  2. Reemplazo de la Fuerza de Trabajo: La IA puede sustituir a los trabajadores, generando desafíos organizacionales.
  3. Barreras Institucionales y Legales: La implementación de la IA enfrenta obstáculos legales e institucionales.
  4. Impacto Ambiental y Fallas del Mercado: Grandes empresas pueden monopolizar la IA, generando desequilibrios en el mercado.
  5. Explicabilidad de la IA: La complejidad de los algoritmos puede dificultar su comprensión y transparencia.

Valle Cruz subraya que la IA está impulsando la Cuarta Revolución Industrial, conocida como Industria 4.0, y su relevancia es innegable. La investigación reveló que los principales riesgos no provienen únicamente de la tecnología en sí, sino de su uso y manipulación por parte de los seres humanos. “Identificamos que el lado oscuro de la IA puede venir no tanto de los algoritmos, de su complejidad, sino de su uso por parte del ser humano, de su manipulación para la toma de decisiones”, explicó Valle Cruz.

El modelo desarrollado en este estudio puede ser extrapolado a otras organizaciones y ser utilizado por expertos en IA a nivel mundial para analizar e identificar los efectos negativos de la IA. Este trabajo proporciona una base sólida para comprender y mitigar los riesgos asociados con la implementación de tecnologías avanzadas en la administración pública.

El reconocimiento por parte de la ASPA subraya la importancia y el impacto del trabajo de Valle Cruz y sus coautores. La ASPA, una organización con impacto a nivel internacional, cuenta con revisores expertos de diversos países, lo que resalta la calidad y relevancia del artículo premiado. Este logro es un testimonio del compromiso de los investigadores de la UAEMéx con la excelencia académica y la investigación de vanguardia.

El artículo “Explorando los impactos negativos de la inteligencia artificial en el gobierno: el lado oscuro de los algoritmos inteligentes y las máquinas cognitivas” está disponible para consulta en la página web de la Revista Internacional de Ciencias Administrativas, y puede ser accedido a través del siguiente enlace: Exploring the Dark Side of Artificial Intelligence in Government.

El galardón otorgado a David Valle Cruz y su equipo es un reconocimiento merecido al esfuerzo y dedicación en la exploración de los efectos negativos de la inteligencia artificial en la administración pública. Este trabajo no solo enriquece el conocimiento académico, sino que también proporciona herramientas valiosas para los responsables de la toma de decisiones en el ámbito gubernamental. La UAEMéx y sus investigadores continúan destacándose en el panorama internacional, contribuyendo significativamente al avance de la ciencia y la tecnología en beneficio de la sociedad.