JM García-Maceiras ha presentado en las históricas Galerías Reales Saint-Hubert un marco regulatorio y estructural transformador con el lanzamiento de su último trabajo: The Banking Risk of AI Explanation.
El evento reunió a un panel de banqueros internacionales, ingenieros de IA y responsables políticos para abordar el desafío más acuciante de la era financiera digital: la opacidad de la toma de decisiones automatizada.
Reduciendo la brecha entre innovación y regulación / Bajo marcos de alcance global como DORA y la Ley de IA de la UE, que establecen el estándar de oro para el cumplimiento internacional de la IA, los bancos ahora están obligados a proporcionar explicaciones claras y significativas para las decisiones automatizadas, especialmente aquellas que impactan la vida de los ciudadanos, como la denegación de una hipoteca.
Sin embargo, a medida que la Inteligencia Artificial se convierte en la base de los sistemas financieros, los gerentes se enfrentan al creciente dilema de la «caja negra»: cuanto mayor es el rendimiento analítico del aprendizaje automático y las redes neuronales profundas, menos comprensibles se vuelven para los humanos.
El Modelo Estructural de las Cinco Balizas / El eje central del trabajo es el modelo de las Cinco Balizas , una arquitectura en capas diseñada para proteger a los clientes mediante la validación técnica con intervención humana. El modelo define cinco niveles específicos de transparencia: XAI-M2M (Técnica), XAI-Ingeniero (Arquitectónica), XAI-Supervisor (Regulador), XAI-Corporación (Gobernanza) y XAI-Cliente (Legible para humanos) .
«En lugar de considerar la explicabilidad de la IA como una cuestión de último momento, este modelo establece una secuencia de validaciones previas», afirma García-Maceiras . «No se trata de ‘descifrar’ el código, sino de estructurar un marco donde cada parte interesada —desde la gobernanza interna hasta los supervisores externos y los ingenieros certificadores— comparta una responsabilidad definida por el resultado de la máquina. Sin esta supervisión colectiva, no se puede garantizar la integridad de la IA.»
Escalabilidad universal / Si bien tiene sus raíces en el riguroso entorno de la banca, el modelo Five Beacons está diseñado para una integración perfecta en cualquier implementación de IA de alto riesgo (incluida la atención médica, la aplicación de la ley, la justicia, los recursos humanos y la infraestructura crítica), lo que garantiza el cumplimiento total donde la transparencia es un requisito no negociable.
Sobre el autor / JM García-Maceiras es un jurista y ejecutivo internacional con experiencia en derecho, lingüística, filosofía y gobernanza empresarial. Actualmente preside la Asociación Española de BPO Bancario, donde lidera iniciativas estratégicas en la intersección de los servicios financieros y la supervisión tecnológica, aportando una perspectiva interdisciplinar única sobre el futuro del riesgo sistémico y la tecnología regulada.