Según una revisión histórica, se ha instado a los ministros a reforzar los poderes del regulador de la ciudad para proteger a los consumidores contra los riesgos potenciales de la IA.
La revisión de Mills realizada por la Autoridad de Conducta Financiera (FCA), que analizó cómo la IA remodelará los servicios financieros a partir de 2030, encontró que las empresas ya están comenzando a alejarse de las operaciones dirigidas por humanos hacia servicios habilitados por IA para los consumidores cotidianos.
Encontró que la medida podría apoyar a los consumidores y hacer que el asesoramiento financiero sea más accesible para los hogares de bajos ingresos, pero también aumentaba el riesgo de fraude, amenazas cibernéticas y daños a los consumidores.
“Es probable que la IA se convierta en una fuerza definitoria en los servicios financieros minoristas, transformando la forma en que operan las empresas, cómo los consumidores toman decisiones financieras y cómo operan los mercados”, dijo la FCA. “Si bien la IA tiene el potencial de mejorar el acceso, la personalización y la eficiencia, también puede aumentar los riesgos relacionados con el fraude, la ciberseguridad, el daño al consumidor y la concentración del mercado”.
El informe, dirigido por Sheldon Mills, director ejecutivo de la FCA, hizo una serie de recomendaciones, entre ellas que el organismo de control adopte su propio modelo basado en IA para supervisar las empresas y pedir al gobierno que aumente sus poderes existentes.
Eso podría significar ampliar su autoridad sobre “terceros importantes”, como empresas de inteligencia artificial y proveedores de nube, y otorgarle “poderes directos” para regular a las empresas de tecnología para evitar monopolios digitales, impulsar la competencia y proteger a los consumidores.
Mills dijo al Financial Times que los reguladores necesitan “monitorear, identificar y abordar el riesgo” para mantenerse al día con la velocidad, el ritmo y la escala del cambio en la IA internamente. “Es una carrera armamentista”, afirmó.
“La inteligencia artificial transformará los servicios financieros para 2030”, afirmó en un comunicado. “Esto crea importantes oportunidades para los consumidores, las organizaciones y la economía en general. Este informe establece una hoja de ruta sobre cómo los reguladores de la industria y los gobiernos pueden prepararse para la próxima fase de transformación impulsada por la IA en nuestro sector de servicios financieros líder en el mundo”.
La revisión se anunció en enero como parte de un esfuerzo por comprender cómo podría evolucionar la IA en el futuro, cómo esos desarrollos podrían afectar a los consumidores, los mercados y las empresas, y cómo los reguladores financieros podrían necesitar evolucionar en respuesta.
La FCA descubrió que una quinta parte de las personas en todo el Reino Unido, el equivalente a 11 millones de personas, están abiertas a utilizar la IA para tomar sus decisiones financieras, incluidos ahorros y préstamos. Esto a pesar de que los modelos de IA no son examinados por los reguladores financieros y los consumidores no reciben compensación si pierden dinero.
Después de la circulación del boletín
El informe de Mills recomendó que la FCA inicie otra revisión en seis meses, analizando el daño potencial para quienes utilizan la IA para administrar sus finanzas personales. También dijo que la revisión debería analizar los riesgos que plantean las empresas de servicios financieros no reguladas que utilizan tecnología de inteligencia artificial, dado que sus operaciones diarias quedan fuera de las responsabilidades del regulador y son indulgentes.
La revisión se produce en medio de una creciente controversia sobre el manejo de un poderoso modelo de IA desarrollado por Anthropic. La firma de tecnología estadounidense dijo que el modelo, conocido como Mitos, era una amenaza potencial grave para la seguridad cibernética de cualquier organización y comenzó a medir su uso en organizaciones examinadas, incluidos algunos bancos del Reino Unido.
Se teme que si Mythos cae en las manos equivocadas, los bancos podrían colapsar y potencialmente poner en riesgo al sistema financiero en general. La administración de Donald Trump prohibió el uso de Myths por parte de empresas estadounidenses el mes pasado antes de restaurarlo parcialmente la semana pasada.
La FCA ahora considerará cómo responder a las recomendaciones de la revisión de Mills.
