Noruega avisa: que un funcionario firme no basta para controlar la IA

Noticia principal

NORUEGA · ADMINISTRACIÓN Y GARANTÍAS · INFORME PUBLICADO EL 11 DE NOVIEMBRE

NAV probó una IA que tenía en cuenta la edad del médico

Un sistema debía estimar cuánto duraría la baja de un paciente. Entre los datos a los que dio importancia estaba la edad del médico que lo había dado de baja. Ocurrió en las pruebas de un sistema previsto por NAV, la administración noruega de trabajo y bienestar. La estimación iba a ayudar a decidir qué seguimiento necesitaba el paciente. Era un sistema en pruebas; NAV respondió al investigador que actualmente no utiliza IA como apoyo digital a decisiones. [1]

El ejemplo abre una pregunta incómoda. Una correlación es una relación estadística: dos datos varían juntos. Puede ayudar a predecir algo sin explicar su causa y sin convertir ese dato en un motivo jurídico válido para decidir sobre una persona. Que la edad del médico mejore una predicción no demuestra que deba influir en la atención al paciente.

Lo advierte el Sivilombudet, el Defensor del Pueblo noruego, un órgano independiente del Parlamento que supervisa la Administración. Su informe, fechado el 31 de octubre, publicado el 11 de noviembre y con expediente 2026/145, exige información suficiente y medios reales para comprobar que las recomendaciones se apoyan en criterios legales y pertinentes. [1][2]

Cuatro organismos, distintas formas de comprobar

Arbeidstilsynet, la Inspección de Trabajo, utiliza Prediksjonsindeksen, un sistema que calcula puntuaciones de riesgo a partir de inspecciones anteriores para ayudar a priorizar nuevas visitas. Saber cómo funciona en general puede ser útil; según el informe, también puede hacer falta conocer qué sostiene una puntuación concreta para poder descartarla. [1]

Skatteetaten, la Administración tributaria, utiliza modelos para detectar posibles deducciones incorrectas o viviendas secundarias destinadas al alquiler. Emplea valores de Shapley, una técnica que estima qué variables pesan en las predicciones. Esa explicación ayuda a detectar factores extraños, pero explicar una predicción no prueba por sí solo que sea fiable ni que sus criterios sean lícitos. [1]

Tolletaten, Aduanas, busca patrones y anomalías en mercancías y envíos. Sus modelos no emiten puntuaciones de riesgo ni recomendaciones de inspección: los analistas contrastan los hallazgos con otras fuentes y elaboran manualmente las reglas de control. El informe ve ahí una forma posible de comprobación independiente, siempre que se examine también por qué cada criterio es pertinente. [1]

Comprobar después no arregla una selección ilegítima

El problema aparece antes de la resolución final. Un funcionario puede verificar los datos de alguien seleccionado para una inspección y seguir sin saber por qué se seleccionó a esa persona. Encontrar después una irregularidad no convierte en legítimo un criterio inicial discriminatorio o ajeno al propósito del control. [1]

A eso se suma el sesgo de automatización: la tendencia a confiar demasiado en una recomendación porque la produce una máquina. No basta con disponer de controles; hay que organizar el trabajo para que se utilicen. El artículo 22 del Reglamento General de Protección de Datos (RGPD) protege, con excepciones, frente a decisiones exclusivamente automatizadas con efectos jurídicos o de importancia similar, y una intervención humana puramente formal puede seguir encajando en esa categoría. [1]

Para un despacho, la traducción práctica es directa: revisar lo que entrega la IA solo ofrece garantías si quien revisa tiene las fuentes, el tiempo, los conocimientos y la autoridad para comprobarlo y rechazarlo. Una casilla de «revisado» no aporta todo eso.

El informe no declara incumplimientos concretos ni crea una norma: precisa las exigencias de control y plantea hacerlas más explícitas en la legislación. [1][2]