Fecha de publicación: -- Fuente: Asociación Empresas Consultoría Lugar: Servicios financieros La verdadera revolución de la IA en la banca no se librará en una carrera por tener el algoritmo más potente, sino en la capacidad de utilizar el más adecuado para cada caso de uso. El futuro no dependerá de un único modelo, sino de la habilidad para orquestar un ecosistema diverso de soluciones de IA, desde LLM a SLM especializados, de forma segura.



Pocos sectores han impulsado la maduración de la tecnología empresarial con la misma intensidad que el financiero. Sus estrictos requisitos regulatorios han sido el motor que ha obligado a desarrollar soluciones de infraestructura verdaderamente seguras y escalables. Ha sido pionero en el uso de la inteligencia artificial tradicional, aplicando con éxito modelos de aprendizaje automático a procesos internos y auditables como la detección de fraude o los sistemas de scoring de crédito. Sin embargo, la llegada de la IA generativa presenta características que entran en conflicto directo con la regulación bancaria, la cual exige transparencia y explicabilidad en cualquier proceso que afecte directamente al cliente o a la gestión de riesgos de la entidad.



La razón de este desencuentro es estructural. Ante cualquier inspección del supervisor, la entidad debe ser capaz de reconstruir y justificar cada paso que le llevó a tomar una decisión. Se trata de un conjunto de operaciones donde la regulación exige una pista de auditoría perfecta. En este entorno de máxima exigencia, la naturaleza probabilística, no determinista y difícilmente auditable de los modelos generativos plantea una incompatibilidad insalvable en decisiones de mayor impacto regulatorio y patrimonial del sector.



El dilema de la ‘caja negra’ y la rendición de cuentas del algoritmo



Para entender por qué se produce esta incompatibilidad, primero hay que comprender qué es una ‘caja negra’. Hablamos de sistemas de IA cuyo funcionamiento interno es tan complejo que ni sus propios creadores pueden desentrañar por completo el razonamiento detrás de cada respuesta. Esto plantea dos problemas irremediables para una entidad financiera.



El primero es el origen de su conocimiento. Muchos de estos modelos están entrenados con datos abiertos de Internet, lo que tiene consecuencias directas, ya que el algoritmo nace con el sesgo que tiene la red, donde hay información valiosa, pero también es una fuente poco contrastada.  Delegar una decisión que puede cambiar la vida de una persona, como la concesión de una hipoteca o la recomendación de un producto de ahorro, a un sistema entrenado con la incontrolable biblioteca de la web es un riesgo.



Pero el mayor obstáculo es la imposibilidad de auditar el proceso. El principal problema no es que la IA pueda equivocarse, sino la incapacidad de explicar por qué lo ha hecho. Un banco debe poder justificar cada una de sus decisiones ante sus clientes y, sobre todo, ante los organismos supervisores. Con una “caja negra”, esa cadena de responsabilidad se rompe.



Las decisiones financieras donde el algoritmo no puede rendir cuentas



Esta incompatibilidad se traduce en desafíos muy concretos en las operaciones de las que depende el futuro de los ciudadanos, como puede ser la concesión de un crédito, o el asesoramiento en inversiones.



Usar grandes modelos de lenguaje (LLM, por sus siglas en inglés) en la concesión de préstamos introduce un riesgo, ya que puede crear sesgos algorítmicos que, por su propia naturaleza, serían imposibles de justificar ante el supervisor. Sin ninguna instrucción, el algoritmo podría empezar a denegar préstamos sistemáticamente a personas de un código postal concreto o con un determinado origen, simplemente por correlaciones accidentales aprendidas de sus datos.



La misma lógica aplica en el asesoramiento de inversión, un terreno donde la directiva europea MiFID II exige evaluar la idoneidad del cliente y entregar un informe que justifique cómo se ajusta la recomendación a su perfil de riesgo y objetivos. Un LLM no puede justificar en qué ha basado su razonamiento para dar una recomendación.



La alternativa del código abierto o el control sobre el algoritmo



La solución a este desafío no es dar la espalda a la innovación, sino elegir el modelo adecuado para cada tarea. El código abierto no convierte la IA generativa en un sistema determinista, pero sí proporciona un entorno controlado para gobernar y auditar la información que se procesa. Mientras que un modelo propietario es “una caja negra”, el código abierto propone una “caja transparente”. En este modelo, los datos de entrenamiento son visibles, permitiendo a la entidad demostrar ante el supervisor que el algoritmo no ha aprendido sesgos involuntarios y que, en la práctica, no está maleado.



Controlar los sesgos es una condición necesaria, pero no suficiente. El sector financiero arrastra una segunda obligación, que es la privacidad de la información de sus clientes. Enviar datos de carácter personal a un modelo propietario externo implica que esa información sale del perímetro de control del banco, poniendo en riesgo el cumplimiento del Reglamento General de Protección de Datos (RGPD). Los pequeños modelos de lenguaje (Small Language Models o SLM) de código abierto resuelven esta cuestión al permitir ser entrenados con datos propios dentro de la infraestructura del banco. Esto no solo elimina los riesgos de privacidad, sino que convierte los datos de la entidad en una enorme ventaja competitiva.



En una industria tan estrictamente regulada, esta diferencia es la que determinará qué proyectos llegan a producción y cuáles se quedan en el laboratorio. Un modelo transparente no solo tiene más posibilidades de ser aceptado por el regulador, sino que, además, ayuda a devolver al banco la soberanía digital a largo plazo. Si la relación comercial con el proveedor finaliza, la entidad conserva el código o el modelo y puede seguir operando su infraestructura. En un sector donde la resiliencia es innegociable, esta autonomía proporciona una seguridad que ninguna tecnología propietaria puede igualar.



La verdadera revolución de la IA en la banca no se librará en una carrera por tener el algoritmo más potente, sino en la capacidad de utilizar el más adecuado para cada caso de uso. El futuro no dependerá de un único modelo, sino de la habilidad para orquestar un ecosistema diverso de soluciones de IA, desde LLM a SLM especializados, de forma segura. Y en ese nuevo paradigma, solo aquellos que basen su estrategia en la transparencia, el control y la confianza podrán convertir la revolución de la inteligencia artificial en una ventaja competitiva real.







Fuente: CIOThe post La IA de código abierto como ventaja competitiva de la banca en la era de los modelos generativos first appeared on AEC - Asociación española de empresas de consultoría.