De la eficiencia a la exclusión repensando la gobernanza de la IA en las instituciones públicas

Resumen

El uso de inteligencia artificial (IA) en la administración pública ha sido promovido como una vía para aumentar la eficiencia y reducir el sesgo humano. Sin embargo, investigaciones recientes revelan que estos sistemas pueden reproducir y amplificar desigualdades estructurales, vulnerando principios fundamentales de derechos humanos. Este artículo analiza críticamente cómo la automatización decisional afecta la igualdad, la privacidad y la dignidad, a partir de una revisión documental interdisciplinaria de marcos normativos, estudios empíricos y casos reales como el algoritmo COMPAS en Estados Unidos y el sistema de detección de fraude en subsidios en Países Bajos. Se identifican tres dimensiones críticas: la reproducción algorítmica de prejuicios históricos, el automatismo decisional y la adherencia selectiva por parte de funcionarios públicos, y la insuficiencia de los marcos regulatorios actuales, como el Reglamento Europeo de IA (AI Act) y el RGPD. A partir del concepto de “violencia lenta”, se argumenta que es tas tecnologías erosionan de manera imperceptible los derechos fundamentales, especialmente entre poblaciones vulnerables. El estudio concluye que es imprescindible avanzar hacia un modelo de gobernanza algorítmica centrado en los derechos humanos, que incluya principios de transparencia, auditabilidad, participación y acceso efectivo a mecanismos de impugnación. Solo a través de una regulación integral será posible evitar que la IA consolide nuevas formas de exclusión tecnificada en el ámbito estatal