Crece uso sombra de IA en el servicio público: Colegio Mexiquense

Zinacantepec, Méx.- Ante el uso creciente que servidores públicos federales están haciendo de la inteligencia artificial generativa y la incertidumbre e indeterminación de los procesos y sus consecuencias en la identidad y el papel del usuario, es indispensable que se inicie la formalización del empleo de la herramienta.

César Rentería Marín, investigador del Centro de Investigación y Docencia Económicas (CIDE), dio en El Colegio Mexiquense la conferencia «¿Cómo usan la IA generativa los servidores públicos?», en sesión del laboratorio de ideas, en la que compartió resultados de un trabajo en curso con empleados de los tres poderes federales.

Presentó referencias de estudios realizados en diversos países y, a partir del concepto de «uso sombra», que remite al empleo de la IAG sin que se informe a jefes y compañeros, dijo que a escala mundial hay una adopción generalizada de la misma como herramienta de trabajo en la educación, el entretenimiento y en la oficina, y en este año en particular se ha vuelto generalizado.

Así, en diversas encuestas se ha encontrado que entre 53 y 90 % de las empresas de Estados Unidos están usando IAG y casi la mitad de los empleados públicos de esa nación también las aplican.

Los estudios que se están haciendo para esclarecer lo que está pasando con la IAG en el sector público se han concentrado en el uso de chatbots y la IAG como herramienta de trabajo, respecto de la experiencia de los empleados.

En el segundo caso, compartió, se ha considerado que hay consecuencias adversas sobre el servicio público en la medida que la IAG genera dependencia, su uso implica que la agencia del servidor público -su libertad y capacidad de decisión- se traslade a la herramienta, se propicia la falta de rendición de cuentas y hay posibilidad de profundizar sesgos discriminatorios.

Rentería Marín advirtió de los diversos retos que implica ese uso y que han sido detectados, como la alucinación de la herramienta, cuando fabrica hechos, hace una mala interpretación de instrucciones porque da una respuesta razonable pero desalineada con la tarea que se le dio, omite información importante, y los sesgos de conformidad y co-construcción del conocimiento.

Respecto del trabajo de investigación en curso explicó que se trata de un análisis exploratorio cualitativo con entrevistas a servidores públicos que son usuarios avanzados, en relación con las prácticas de uso, los procesos de aprendizaje, las percepciones, las relaciones laborales y la legitimidad de uso, las cuales desmenuzó.

Se ha trabajado con servidores públicos de los tres poderes del gobierno federal, desde analistas hasta directores, con edades de 25 a 60 años y diversa formación profesional, de los cuales 91 % usa ChatGPT, con una frecuencia de 15 a 40 % en periodos que van de 10 a 36 meses.

La mayoría usa de manera informal la IA, con una suscripción a título personal y de manera voluntaria para realizar tareas o actividades que corresponden a sus funciones laborales, sin que sea sugerido ni autorizado por la organización, y sin lineamientos ni capacitación, por eso se habla de un «un uso sombra».

Las actividades incluyen una variedad amplia, entre las que están análisis de datos, síntesis de información, razonamiento, motor de búsqueda, generación de videos, generación de imágenes y generación de texto, de las cuales las dos últimas son las más usadas.

Lo servidores públicos también han reconocido los riesgos a los que consideran exponerse usando la IAG y hay quienes se ven estigmatizados cuando se sabe que la están empleando y piensan que se desvaloriza su trabajo por ello; en términos más amplios, el momento que se vive no permite saber con claridad quién es el gran ganador de la aplicación de la herramienta

Por eso urgió a empezar una agenda normativa que vincule riesgos con prácticas de uso, explore el sector, cómo se está usando la herramienta y qué retos supone, cuáles son sus prácticas, los procesos de aprendizaje y su percepción sobre el empleo, así como la manera en que se navega en un contexto de ausencia de políticas organizacionales y de verbalización, para finalmente establecer cómo debería formalizarse el uso de la IA generativa.

Samanta Varela Castro, profesora-investigadora de El Colegio Mexiquense y moderadora del encuentro, y Miguel Adolfo Guajardo Mendoza, secretario general, hicieron preguntas e incentivaron al auditorio del Aula Mayor a participar, al igual que a quienes siguieron la sesión por redes sociales.

Tags: