Uso de la Inteligencia Artificial en gobierno implica riesgos: OCDE

CIUDAD DE MÉXICO, noviembre 10 (EL UNIVERSAL).- Suponer que no existen riesgos en la adopción de la Inteligencia Artificial (IA) es impensable, por lo que la administración pública debe trabajar en mitigarlos, señaló la Organización para la Cooperación y el Desarrollo Económicos (OCDE).
Por ejemplo, podrían perderse empleos, hay insuficientes esquemas de supervisión y evaluación, lo que impide medir los avances, detectar riesgos y demostrar el rendimiento de la inversión.
Los funcionarios pueden hacer un uso indebido a título personal, si no hay mecanismos gubernamentales que garanticen el ejercicio y protección de los derechos humanos.
En el documento "Gobernar con la Inteligencia Artificial OCDE 2025", el organismo dijo que "los algoritmos sesgados pueden dar lugar a resultados negativos; el uso indebido de la IA puede infringir o impedir el libre ejercicio de los derechos humanos; la insuficiente transparencia y comprensión pública de la IA puede erosionar la responsabilidad y causar resistencia pública...".
Por otra parte, "la dependencia excesiva de la IA puede ampliar las brechas digitales y permitir que se propaguen errores sistémicos, debilitando la confianza de la ciudadanía en el gobierno".
La OCDE realizó una investigación sobre el uso de la IA en los gobiernos en donde encontró que la mayor parte de esta herramienta se utiliza para prestación de servicios públicos, justicia y participación cívica, pero usa menos en evaluación de políticas, administración tributaria y reformas a la función pública.
En el estudio, la OCDE dijo que en los gobiernos deben "dar prioridad a las aplicaciones de IA de alto beneficio y bajo riesgo, sobre todo al construir un nivel inicial de madurez".
No obstante, el organismo dijo que "la mayoría carece de los procesos para la medición holística de resultados potenciales o logrados, como la eficiencia del gasto, la calidad del servicio o los daños potenciales, que les permitan hacer estas determinaciones".
A pesar de los riesgos, la OCDE afirmó que es una herramienta para aumentar la productividad, ya que se puede reducir la carga de trabajo de los funcionarios y mejorar el acceso a la información a la población.
Sin embargo, los estudios muestran que las iniciativas de uso de la IA son "a menudo proyectos piloto fragmentados, sin un enfoque estratégico para su adopción sistemática".