Para 2030, la pregunta no será '¿Tienes dinero?'. Será '¿Estás aprobado por la IA?'

He pasado años observando cómo la gente maneja el dinero. Me ha sacudido profundamente ver la maquinaria silenciosa que ahora decide quién puede participar en la vida económica.

Hace unos meses, un colega mío —alguien a quien conozco desde hace más de diez años, una persona con ingresos estables, sin deudas y con un hábito de ahorro que enorgullecería a la mayoría de los asesores financieros— fue rechazado para una línea de crédito. No se dio ninguna explicación. No se envió ninguna carta. Solo una pantalla que decía que la solicitud no podía procesarse en ese momento.

Llamó al prestamista. Le dijeron que la decisión había sido tomada por una máquina. Preguntó qué la había activado. Dijeron que no podían compartir esa información. Preguntó si podía hablar con alguien que pudiera revisarla manualmente y hubo una pausa, seguida de una disculpa protocolaria.

Esa conversación se quedó conmigo. No porque el resultado fuera terrible. Él está bien. No necesitaba el crédito con urgencia. Sino por lo que reveló sobre el mundo en el que ya vivimos. Una máquina lo había evaluado. Había decidido algo y no quedaba ningún ser humano en la cadena que pudiera decirle qué había visto.

Pienso en esa conversación con frecuencia cuando contemplo cómo será el 2030. Creo que la pregunta que la mayoría de la gente no está formulando con suficiente fuerza es esta: cuando la IA se convierta en la guardiana del acceso financiero, ¿qué estamos entregando exactamente?

El sistema que reemplazó al oficial de préstamos

Crecí viendo a mi padre negociar con el director de un banco. No era un proceso sencillo. El director hacía preguntas, hacía suposiciones y todo el asunto olía a sesgos que nadie nombraba en voz alta. El sistema era defectuoso, y no siento nostalgia por él.

Tenía algo que la trayectoria actual está eliminando silenciosamente: un ser humano al que se podía cuestionar, que asumía responsabilidad y que existía en la misma sala que las consecuencias de su decisión.

Durante la mayor parte de la historia, la solvencia crediticia se evaluaba mediante un pequeño conjunto de factores como los ingresos, el empleo, las deudas existentes y el historial de pagos. Las agencias de crédito convirtieron esas cosas en puntuaciones. Las puntuaciones eran rudimentarias y a menudo injustas. Al menos eran fáciles de entender. Podías comprender, en términos concretos, qué estaban midiendo. Podías impugnar un error. Podías, con el tiempo, cambiar el número.

Lo que he observado durante varios años es un cambio fundamental que se aleja de esa simplicidad. Los modelos de aprendizaje automático ahora procesan miles de señales simultáneamente para evaluar el riesgo financiero. No solo tu historial de pagos. Cómo escribes en un formulario. Cuánto tiempo se detiene el cursor antes de que envíes. Qué aplicaciones están instaladas en tu teléfono. Si el ritmo de tu vida coincide con el ritmo de alguien en quien el modelo ha aprendido a confiar.

Estas señales parecen casi ridículas cuando las nombras individualmente. Colectivamente están produciendo decisiones que determinan si alguien puede pedir prestado dinero, alquilar un apartamento, obtener un seguro o conseguir un trabajo. Las personas que reciben esas decisiones a menudo no tienen idea del ponderado que llevó cada señal individual.

La identidad que no sabías que estabas construyendo

Esta es la parte con la que genuinamente me cuesta lidiar: la identidad financiera que leen estos sistemas no es la que construiste conscientemente. Es la que has ido filtrando durante años a través de tu comportamiento digital.

No decidiste que las aplicaciones de tu teléfono dirían algo sobre tu solvencia crediticia. No sabías que la hora del día en que sueles enviar formularios estaba siendo registrada y correlacionada con patrones de pago. No firmaste un acuerdo que dijera que el grafo social que te conecta con tus contactos se usaría para evaluar tu perfil de riesgo.

Esa es la arquitectura que se está ensamblando, pieza a pieza, en empresas fintech, agencias de crédito y plataformas de seguros alrededor del mundo. La identidad que el sistema infiere sobre ti se está construyendo a partir de un retrato para el que posaste sin darte cuenta.

Esto crea una brecha en la que pienso con frecuencia. Está la persona que sabes que eres: alguien cuidadoso con el dinero, que tiene contexto para las cosas inusuales en su historial financiero, que tiene razones para las elecciones que podrían parecer anómalas a un algoritmo. Luego está la sombra estadística de ti que ve un modelo de IA. Esas dos cosas no son la misma persona. Cada vez más, es la sombra, no la persona, la que determina el acceso.

He hablado con personas a las que se les rechazaron préstamos después de mudarse a una ciudad, no porque su comportamiento financiero hubiera cambiado, sino porque su nueva dirección se correlacionaba en los datos de entrenamiento con tasas de impago más altas. He hablado con trabajadores independientes que fueron penalizados no por cómo gestionaban su dinero, sino por el hecho de que los patrones de ingresos variables parecen, para un modelo entrenado con trabajadores asalariados, una señal de inestabilidad. He hablado con adultos que fueron marcados no por algo que hicieron, sino por la escasez de su huella digital en un mundo que cada vez más lee esa escasez como sospechosa.

Lo que se construye cuando la eficiencia se convierte en el objetivo

Quiero ser justo aquí, porque creo que la conversación en torno a la IA y el acceso financiero a menudo deriva hacia un tipo de miedo a la tecnología que no le sirve a nadie. La expansión de la evaluación crediticia impulsada por IA ha traído beneficios a personas reales. Los prestamistas fintech que utilizan datos de comportamiento han extendido crédito a millones de personas que no tenían historial financiero formal y eran completamente invisibles para los sistemas bancarios tradicionales. Eso importa. Son vidas que cambiaron porque un sistema pudo ver algo que una sucursal bancaria no podía.

Esta es la tensión a la que sigo volviendo: ser eficiente y ser justo no son el mismo objetivo, y optimizar sin descanso para uno no produce automáticamente el otro.

Un modelo puede ser extremadamente preciso al predecir el impago en una población y al mismo tiempo ser estructuralmente injusto con individuos dentro de subgrupos que los datos de entrenamiento no representaron adecuadamente. Un sistema puede abrir puertas para algunas poblaciones mientras las cierra silenciosamente para otras. Estas no son contradicciones que se resuelven solas mediante la ingeniería. Son el resultado de decisiones, a menudo implícitas, sobre qué está optimizando el modelo y cuya experiencia reflejan los datos de entrenamiento.

Las personas que más me preocupan en esta transición son las más difíciles de leer para estos sistemas. Inmigrantes recientes con historiales digitales limitados. Adultos mayores que construyeron sus vidas antes de que el rastro de datos lo fuera todo. Personas en geografías o comunidades subrepresentadas en los conjuntos de datos que entrenaron los modelos. Personas que, por razones legítimas, tienen patrones de comportamiento que parecen anómalos para un sistema construido sobre poblaciones diferentes.

Para estas personas, las decisiones de acceso impulsadas por IA corren el riesgo de funcionar como un muro más que como una puerta. No porque representen un riesgo en ningún sentido humano significativo, sino porque el sistema no puede clasificarlas con confianza, y los sistemas que no pueden clasificar con confianza tienden a tomar por defecto la exclusión.

La década en la que realmente estamos

Lo que creo que se subestima del momento actual es la velocidad a la que estos sistemas se están volviendo fundamentales. Esta no es una tecnología que se está probando en programas piloto. Ya está integrada en los préstamos, los seguros, la selección de inquilinos y la evaluación laboral en muchas partes del mundo. Las normas que la gobiernan están, en algunos lugares, muy por detrás de la realidad de cómo opera.

Europa ha dado pasos. Las normas allí imponen requisitos de transparencia y explicabilidad en la toma de decisiones automatizada. Esos requisitos no son perfectos. Establecen un principio: que una persona tiene el derecho de entender, en términos con los que pueda realmente interactuar, por qué un sistema automatizado tomó una decisión que afectó su vida.

Ese principio no existe de manera consistente en otros lugares. En muchos mercados, la IA que decide tu solvencia crediticia opera sin ninguna obligación de explicarse a sí misma. Puedes ser rechazado sin apelación, sin explicación y sin ninguna vía para entender qué vio el sistema que lo llevó a esa conclusión.

Creo que esto se convertirá en una de las tensiones definitorias de la próxima década. No los escenarios dramáticos que dominan el debate sobre la IA, como las armas o la disrupción a escala de ciencia ficción. La tensión más silenciosa e inmediata de quién puede participar en la vida económica y en qué condiciones, a medida que los sistemas que gobiernan esa participación se vuelven más rápidos, más opacos y más consecuentes.

Lo que la confianza realmente requiere

He pasado tiempo en espacios donde se toman decisiones financieras. Lo que sigo recordando mientras observo desplegarse esta transformación es que la confianza no es una puntuación. Es algo más complicado y más humano que eso.

La confianza implica contexto. Implica la capacidad de escuchar una historia y entender por qué un número tiene el aspecto que tiene. Implica un juicio que va más allá del reconocimiento de patrones. Los sofisticados sistemas de IA disponibles hoy en día son genuinamente impresionantes en la parte del reconocimiento de patrones. No son capaces de lo demás.

El riesgo que veo en el mundo que estamos construyendo no es que las máquinas tomen decisiones. Las instituciones siempre han usado herramientas para gestionar la escala de sus decisiones. El riesgo es que lleguemos a confundir la confianza de la máquina con la plenitud del juicio. Que dejemos de hacer preguntas porque el modelo devolvió un número y el número se siente definitivo.

Si la IA te aprueba o no va a importar cada vez más en los próximos años. La pregunta que debería importar igual y en la que pienso cada vez que recuerdo esa conversación con mi colega es si la IA se está ganando la confianza que estamos depositando en ella.

Esa no es una pregunta que la IA pueda responder. Es una pregunta que debemos seguir haciendo, con suficiente persistencia como para asegurarnos de que las personas que construyen y despliegan estos sistemas estén escuchando.

Si este artículo expresó algo que has estado sintiendo pero no podías explicar del todo, me alegra que tenga sentido para ti. Sigue esta publicación para leer historias sobre tecnología, finanzas y cómo las personas se ven afectadas por ellas. Si te gustó la historia, cuéntasela a otros para que también puedan encontrarla. Puedes hacerlo aplaudiéndola. Deja un comentario. Dinos qué piensas, incluso si no estás de acuerdo con la historia o si te parece diferente. Esta publicación está creada por personas que escriben sobre cosas que les importan. Aportan sus pensamientos y experiencias a las historias. Si tienes una historia que contar, ponte en contacto con nosotros. Podemos trabajar juntos en ella. *

By 2030 the Question Won't Be 'Do You Have Money?'. It Will Be 'Are You Approved by the AI?' fue publicado originalmente en Coinmonks en Medium, donde la conversación continúa con comentarios y respuestas a esta historia.