El regulador de los bancos de EE.UU. publicó su marco para supervisar la IA: un agente autónomo de pagos es riesgo «crítico», aunque pase todas las pruebas

La OCC les dijo a sus inspectores que miren menos la sofisticación del sistema y más qué pasa si se equivoca. Sugiere frenos de emergencia y controles sobre los agentes externos, justo cuando los grandes bancos restringen los de sus clientes.

La Oficina del Contralor de la Moneda de EE.UU. (OCC), que supervisa a los bancos nacionales, publicó este miércoles 4 de noviembre un marco para que sus inspectores evalúen el uso de inteligencia artificial en los bancos. Es el primero de este tipo del organismo, según Decrypt. Su idea central: importa menos cuán potente es el sistema que qué pasa cuando se equivoca. El texto lo ilustra así: «un simple agente basado en reglas autorizado a iniciar transacciones podría presentar mayor riesgo que un modelo sofisticado limitado a ayudar con redacción interna».

El documento habla de «superinteligencia» (SI): aclara en una nota que el término designa lo que antes se llamaba inteligencia artificial, en línea con la orden ejecutiva 14434 de octubre. Y es una guía para inspectores, no una regla nueva: dice que la SI no debe tratarse como una categoría de riesgo separada y que los bancos no están obligados a definir un apetito de riesgo propio para ella.

Cuatro niveles, a modo de ejemplo

El marco tiene 16 componentes agrupados en seis pilares, y propone una escala de cuatro niveles que la OCC presenta como ilustrativa. En el nivel 1, crítico, pone los agentes autónomos de pagos, las decisiones de crédito en tiempo real, la liberación de retenciones por fraude y el acceso a mercados. Un agente de pagos autónomo y de cara al cliente queda ahí «sin importar cuán bien funcione en las pruebas». En el nivel 4, bajo, están las herramientas internas de productividad y las consultas generales de empleados.

Para detectar y contener a un agente que sigue funcionando pero actúa mal, el texto menciona controles posibles: interruptores de circuito, límites de velocidad, permisos mínimos y botones de apagado, además de ejercicios para seguir operando con personal capacitado si hay que frenar al sistema principal.

Los agentes que el banco no controla

La parte más sensible es la de los agentes ajenos. La OCC advierte que los sistemas de clientes, contrapartes o fintech que el banco no controla pueden ser un riesgo de canal, y sugiere calibrar identidad, autenticación, monitoreo, límites de velocidad, suspensión y revocación de acuerdo con la acción pedida. También pide considerar efectos en cascada entre clientes, agentes y proveedores sobre la liquidez y los mercados.

El regulador no vincula el texto con ningún episodio, pero llega menos de dos semanas después de que Axios informara, según Decrypt, que Morgan Stanley bloqueaba agentes externos y que JPMorgan, Bank of America y Citi restringían su acceso a cuentas de clientes.

Qué sigue

La OCC dice que actualizará el documento con regularidad, a medida que cambie la tecnología y reciba comentarios. Un detalle: el propio texto aclara que se preparó «con la asistencia de SI» y que un humano lo revisó, editó y aprobó. Falta ver cómo lo aplican los inspectores en la práctica.