Gobierno de IA · seis viñetas y tres ruedas que se pulsan
La declaración de conformidad de un sistema, su marcado CE y, si hay normas armonizadas citadas, la presunción del artículo 40 cubren los artículos 8 a 15, que son las obligaciones de quien lo fabrica, y se quedan ahí. Las de quien lo usa (el responsable del despliegue, o deployer) no se garantizan automáticamente: hay que construirlas, y hay que poder enseñarlas.
Primero seis viñetas, que cuentan por qué el anillo de fuera se da por hecho. Debajo, el cuadro que cruza las tres ruedas y el enlace a cada una para pulsarla casilla por casilla.
Una diana preciosa, ochenta casillas, todas llenas. Y casi siempre dibuja los artículos 8 a 15: las obligaciones de quien fabrica el sistema.
Lo que falla: quien solo lo usa bajo su propia autoridad no tiene esas obligaciones. Se pasa el año midiéndose contra una lista que no es la suya, y la suya se queda sin mirar.
Marcado CE y declaración de conformidad, que firma el propio proveedor. Todo correcto, y todo suyo: cubre los artículos 8 a 15, y si aplica normas armonizadas citadas se le presume (art. 40).
Lo que falla: el sello acredita el anillo del proveedor, no los de quien lo usa. Y como es lo único que se ve desde fuera, parece que acredita la rueda entera.
El cartel está puesto y es correcto. Debajo no hay registro de actividad, ni quien firme el texto, ni forma de reconstruir una decisión concreta.
Lo que falla: el aviso del artículo 26.11 promete algo que los anillos de dentro no pueden cumplir. Cuando alguien invoque el artículo 86 y pida que le expliquen qué papel tuvo el sistema en su caso, el cartel es la prueba en contra.
Hay una persona asignada, hay un sello y hay un procedimiento. El contador de veces que corrigió al sistema marca cero.
Lo que falla: el artículo 26.2 pide competencia, formación y autoridad. Sin la tercera, la persona mira pero no puede apartarse, y una supervisión que nunca se aparta no se distingue de no tenerla. Lo que se enseña no es el sello: es el recuento.
Una casilla marcada como hecha dice que alguien puso un visto. Una casilla marcada sin constancia dice exactamente qué hay que construir, en qué orden y quién responde. Es la única marca que genera trabajo.
Lo que falla en las dianas de siempre: no tienen esa marca. Solo saben pintar lo que debería existir, así que se pintan enteras y no se pueden auditar. Una diana honesta sale casi vacía la primera vez, y esa es justamente su utilidad.
Tres anillos, seis obligaciones con su artículo, y cada casilla con su dueño y su marca. Sale fea. Sale casi vacía. Y no hay una: hay una por papel.
Lo que cambia: esta se puede enseñar en un comité y sale de ahí con tareas y nombres, no con un aplauso. Debajo están las tres, una por papel.
El anillo de fuera es el único que se ve, y por eso es el primero que se da por hecho. Todo lo que lo sostiene (saber qué datos entran, que alguien firme, que quede registro) no viene con el sistema: hay que construirlo, y no luce.
Dar por heredado el anillo de fuera no acelera el programa. Lo convierte en deuda de gobierno, con la declaración del proveedor encima, que parece decir lo contrario.
Las mismas dieciocho casillas en las tres: qué tiene que existir, quién responde y si hay constancia. Lo que cambia es a quién obliga cada una.
Cada una tiene 18 casillas. Lo que cambia es a quién obligan, y cuántas tienen ya algo que las acredite.
| Rueda | Acreditado | Sin constancia | No aplica |
|---|---|---|---|
| Quien lo fabricaproveedor · arts. 8 a 15Lo que el proveedor declara conforme. Se pinta casi entera, y no es de quien lo usa. | 14 | 4 | 0 |
| Quien lo usaresponsable del despliegue (deployer) · art. 26Lo que le toca cuando el sistema está en el anexo III. | 4 | 13 | 1 |
| Los dos, cada uno en su apartadoart. 50: el 50.1 y el 50.2 al que fabrica; el 50.3 y el 50.4 al que usaRégimen aparte, que no depende del alto riesgo. | 2 | 10 | 6 |
En la primera fila, «acreditado» quiere decir que el proveedor lo declara conforme en su declaración UE de conformidad (art. 47), que firma él mismo y no es un certificado; si además aplica normas armonizadas citadas en el Diario Oficial, se presume conforme (art. 40), y la presunción se puede rebatir. En las otras dos quiere decir que existe el documento y alguien lo firma. No es lo mismo, y esa es justamente la pieza. Los estados son de demostración, para que se vea el mecanismo: no son la foto de ninguna organización.
La declaración de conformidad del proveedor llena su rueda entera y ni una casilla de las otras dos.
Lo que el proveedor declara (art. 47) y lo que se le presume si aplica normas armonizadas citadas (art. 40) son los requisitos de la sección 2: los artículos 8 a 15. El artículo 26 está en la sección 3, y el 50 va por su cuenta. Fuera los dos. Ninguna declaración y ninguna norma armonizada acreditan que quien lo usa conservó los registros.
Entre las dos primeras ruedas hay una puerta, y es el artículo 25: quien lo usa deja de ser responsable del despliegue y pasa a ser proveedor (con los artículos 8 a 15 encima) en tres supuestos: si pone su nombre o su marca en un sistema de alto riesgo, si lo modifica sustancialmente y sigue siendo de alto riesgo, o si cambia la finalidad prevista de un sistema que no lo era, de modo que pase a serlo.
El tercero es el que se cruza sin enterarse. Nadie firma un acta que diga «hoy cambiamos la finalidad prevista»: un asistente que se contrató para responder dudas de la plantilla se empieza a usar para decidir a quién se promociona (anexo III, punto 4, letra b), y el cambio de bando ya ha ocurrido.
En qué papel está, sistema por sistema. Si lo fabrica o lo usa, y si algún cambio de marca, de modificación o de finalidad la ha pasado de bando sin que nadie lo decidiera (artículo 25).
Qué se pide al proveedor antes de firmar. Lo que no viaja solo con la declaración de conformidad: el acceso efectivo a los registros, lo que hace falta para vigilar el funcionamiento y la precisión medida con una población parecida a la suya. Se negocia en el contrato, porque después ya no se consigue.
Quién responde de cada casilla de su rueda, y desde cuándo. Un nombre y una fecha en cada una, también en cada «no aplica». Lo que no tiene dueño es deuda de gobierno, aunque haya un aviso puesto encima.