Decálogo de gobernanza de IA para la administración pública
Esta es una propuesta mía para discutir, no una norma. Parte de las recomendaciones del informe del MIT, que está pensado para una universidad, y las adapta a una entidad pública. No sustituye a la normativa vigente: la protección de datos y el Reglamento europeo de IA mandan, y cualquier texto interno debería revisarlo quien tenga competencia jurídica.
Los diez principios
1. Aumentar, no sustituir. La IA se orienta a ampliar lo que puede hacer el personal. Cualquier decisión que afecte a ciudadanos mantiene una persona que la revisa y responde de ella. Es el principio de IA pro-trabajador.
2. Empezar por el propósito. Antes de incorporar IA a un procedimiento se define qué resultado persigue el servicio. Si la herramienta no aporta valor claro a ese resultado, no se incorpora.
3. Plataforma institucional y agnóstica de modelo. La entidad ofrece un acceso común que no la ate a un solo proveedor y le permita cambiar de modelo. Ver Parley y los modelos abiertos.
4. Datos protegidos. Los datos personales, los expedientes y la información reservada no se introducen en servicios que puedan reutilizarlos para entrenar modelos. Cada categoría de dato tiene fijado qué herramientas puede usar.
5. Transparencia. Todo documento, informe o borrador elaborado con ayuda de IA lo indica, con una breve justificación del uso. La regla vale igual para los directivos que para el resto: el informe del MIT detecta que los estudiantes viven como doble rasero que el profesorado use IA sin decirlo.
6. Nada de detectores como control. No se confía la supervisión a programas que dicen detectar texto de IA. El informe del MIT desaconseja usarlos por su falta de fiabilidad. El control de calidad se basa en revisar el proceso y el resultado.
7. Acceso equitativo. Todas las áreas disponen de cuotas razonables de acceso a herramientas avanzadas, para no crear una administración de dos velocidades.
8. Coste visible. Se informa del coste económico y ambiental del uso de IA, con presupuesto por consumo y estimaciones de huella. Lo que no se mide, no se gobierna. Ver el coste real de la IA.
9. Registro y confidencialidad definidos. Se fija qué interacciones se registran, cuánto tiempo, quién accede y cuáles están protegidas, y se comunica a los usuarios. Se prevé qué hacer cuando alguien revela una situación de riesgo.
10. Revisión periódica y humildad. Un comité permanente revisa estas reglas con fecha fija y las cambia cuando la evidencia lo pida. Se asume que algunas decisiones de hoy serán erróneas.
Cómo se aplica
Un decálogo sin estructura detrás es una declaración. Para que funcione hace falta lo que cuento en la estrategia de adopción: responsables por área, formación propia y un lugar donde compartir lo aprendido.
Lo que no resuelve
- No define niveles de riesgo ni obligaciones legales concretas.
- No dice qué usos están prohibidos por ley.
- No se ha contrastado con ninguna administración real, y puede que alguno de los principios, como el del registro, choque con la realidad de un ayuntamiento pequeño.
Lo ofrezco como punto de partida para una comisión de trabajo. Si alguien quiere convertirlo en una plantilla de normativa interna, encantado de seguir mejorándolo.
Una norma de IA que no se revisa envejece antes que la tecnología que regula.
Fuentes
- Informe del comité ad hoc del MIT sobre el uso de la IA (13 de agosto de 2026): informe completo, apartados 2.1, 3.1.9, 3.2.3 y 3.3.