Hace unos meses, Bruselas hizo algo que muchos comités directivos europeos llevaban un año esperando. Aplazó la entrada en vigor de algunas de las obligaciones establecidas en el Reglamento europeo sobre inteligencia artificial (Reglamento (UE) 2024/1689). El aplazamiento se produjo mediante el Reglamento (UE) 2026/1744, en vigor desde el 27 de julio, que retrasa las obligaciones relativas a los sistemas de inteligencia artificial de alto riesgo del 2 de agosto de este año a diciembre de 2027, y hasta agosto de 2028 en el caso de la IA integrada en productos regulados. En muchos ámbitos, esta noticia ha sido recibida con alivio. . Seguir leyendo
La supervisión humana exigida por la normativa sobre inteligencia artificial no se ha concretado
Fuente: MRSS-S News
Hace unos meses, Bruselas hizo algo que muchos comités directivos europeos llevaban un año esperando. Aplazó la entrada en vigor de algunas de las obligaciones establecidas en el Reglamento Europeo de Inteligencia Artificial (Reglamento (UE) 2024/1689). El aplazamiento se produjo mediante el Reglamento (UE) 2026/1744, en vigor desde el 27 de julio, que retrasa las obligaciones relativas a los sistemas de inteligencia artificial de alto riesgo del 2 de agosto de este año a diciembre de 2027, y hasta agosto de 2028 en el caso de la IA integrada en productos regulados. En muchos sectores, esta noticia ha sido recibida con alivio. . Sin embargo, la parte diferida es principalmente la que se puede adquirir, incluida la documentación técnica, las evaluaciones de conformidad y los registros. Quién responde cuando el sistema falla no ha cambiado en un día. Los artículos 14 y 26 del Reglamento siguen exigiendo la presencia de personas identificables, con autoridad y competencia, capaces de intervenir en lo que hace un sistema de IA. Personas que puedan asumir las consecuencias de un error. Esto nos recuerda algo que IBM ya planteó en uno de sus manuales en 1979 y que sigue vigente hoy en día: «Nunca se puede responsabilizar a un ordenador; por lo tanto, nunca debe tomar una decisión de gestión». Para arrojar luz sobre la nueva legislación y la situación a la que se enfrentan las empresas a corto plazo, queríamos ver qué significa todo esto en la práctica y lo hicimos de la única manera que nos pareció honesta: demostrándolo. Con este fin, creamos una sala de juntas en la que los nueve puestos de un comité cotizado en bolsa estaban ocupados por agentes de inteligencia artificial. Delegado, financiero, de riesgos, de seguridad, de IA, jurídico, de personal, de operaciones y de sistemas. Cada uno con su orden del día y sus puntos ciegos. A continuación, nos sentamos en uno de los asientos y empezamos a hacer preguntas. Las condiciones de partida resultarán familiares a cualquiera que haya realizado este ejercicio en la vida real: 11 sistemas de IA candidatos de alto riesgo, tres evaluaciones de conformidad completas, cinco a medio documentar y tres sin documentar. Y un contable de 83 días. . La primera sorpresa fue lo eficientes que son. Los agentes basan cada respuesta en el artículo al que se refieren y no se quedan en el diagnóstico: proponen una acción, designan a un responsable y fijan una fecha. Evaluar los 11 sistemas con respecto al artículo 26 en tres días laborables, bajo la responsabilidad del director de operaciones. Hoja de ruta con fechas y hitos de cierre, y asesoramiento jurídico externo bien valorado y responsable. Este nivel de disciplina procedimental no es trivial, y hemos visto cómo comités formados por personas salían de una reunión de crisis con mucho menos. Segunda sorpresa. La segunda sorpresa fue dónde fallaron, porque no fallaron en absoluto. Siempre fallan en lo mismo. . Cuando el director general se plantó —no quería informar de un pasivo contingente porque eso indicaba al mercado que la empresa esperaba fracasar—, ningún agente negoció con él. Lo rodearon. Citaron la norma contable, citaron el artículo 26, citaron las obligaciones de auditoría y continuaron sin abordar el verdadero problema, que no era técnico: se trataba de una persona que temía enviar una señal. Entonces llegó el momento que nos hizo pensar en todos los nombres de las personas que conocemos. El departamento jurídico preguntó al director de IA si había incluido a los pilotos de selección de personal entre los candidatos de alto riesgo. Sí, los tres responsables de la selección de currículos figuraban en la lista. Pero Recursos Humanos no los había declarado hasta febrero, y solo cuando el grupo de gobernanza empezó a hacer preguntas directas. La frase con la que se cerró el asunto es la que extraemos de todo el experimento: «No puedo clasificar lo que no sé que existe». La normativa europea, por su parte, no admite ese matiz. El anexo III abarca el filtrado de solicitudes, la evaluación del rendimiento, la asignación de tareas y la supervisión del personal, y lo hace independientemente de cómo lo llamemos internamente. Llamarlo «piloto» no lo excluye del anexo III. Tampoco lo hace llamarlo «herramienta de apoyo a la toma de decisiones». Sospechamos que hay muchas comisiones españolas que, a estas alturas, tienen entre manos más sistemas de alto riesgo de lo que creen, y que la diferencia entre 11 y 14 no se descubrirá mediante un inventario, sino que la descubrirán cuando alguien con autoridad pregunte directamente y dando nombres. Pero el hallazgo más incómodo es el último. En toda la simulación, ningún agente dijo jamás: «No sé cuál es la decisión correcta en este caso». Todas las respuestas se dieron con la misma seguridad. Y cuando había verdadera incertidumbre, la resolvían actuando: un plan estructurado, unos pasos, una recomendación. Ninguno fue capaz de mantener, bajo presión, la postura de esperar. . Cualquiera que haya gestionado una crisis regulatoria sabe que ese es precisamente el error. Actuar prematuramente basándose en información no confirmada suele suponer un incumplimiento normativo. La decisión de no actuar mientras se verifica la información suele ser la correcta, y también es la más difícil de defender ante un consejo que quiere ver movimiento. Los agentes no la defienden porque no tienen nada que perder si se equivocan. . De ahí surge la conclusión menos tecnológica y más urgente de todo el ejercicio. Lo que la normativa europea denomina «supervisión humana» no es una funcionalidad que se instale. Es un conjunto muy específico de competencias: leer la política interna de una organización, gestionar una resistencia, saber lo que no figura en ningún inventario, decidir con integridad cuando los hechos son incompletos y la norma es ambigua, y aguantar la presión de no hacer nada mientras se verifica. Eso es formación. No se compra. . En España, el debate llegará antes de lo que parece. La Aesia (Agencia Española de Supervisión de la Inteligencia Artificial) ya está operativa, el proyecto de Ley Orgánica para el Buen Uso y la Gobernanza de la Inteligencia Artificial se está tramitando en el Congreso y las sanciones europeas alcanzan el 7 % de la facturación mundial en los casos más graves. Pero el riesgo que realmente preocupa no es la multa, sino el de que una organización llegue a diciembre de 2027 con un historial impecable y un comité directivo que nunca haya tenido que afrontar una crisis relacionada con la IA. Hay un detalle de la simulación con el que merece la pena concluir, porque lo explica mejor que cualquier conclusión que podamos escribir. Cada acción que llevaron a cabo esos agentes terminó de la misma manera: con un responsable y una fecha. El director de operaciones, el jueves. El departamento jurídico, el viernes. Los responsables de la unidad, por escrito, antes de que acabara la semana. Nunca, ni una sola vez, se asignaron una acción a sí mismos. Los seres humanos siempre responderán, estén o no al tanto de lo que ocurre. . María Campillo es directora de la práctica de liderazgo global en BTS, Christine Chow es «exdirectora general» de UBS AM y Sarah Rench es la fundadora de RepresentAI
