La inteligencia artificial suele presentarse como una herramienta capaz de ayudarnos a tomar mejores decisiones. Analiza enormes cantidades de información, identifica relaciones que pasarían desapercibidas y promete transformar más datos en mejores respuestas.
Sin embargo, la discusión suele pasar por alto una cuestión relevante.
Te podría interesar
Estas tecnologías hacen algo más que procesar información. Generan valoraciones sobre las personas que pueden influir en la manera en que son observadas, investigadas o tratadas. Esa capacidad forma parte de actividades tan diversas como la prevención del lavado de dinero, la detección de fraude, la evaluación de riesgos financieros o la concesión de créditos.
Cuando detectan una transacción inusual, asignan un nivel elevado de riesgo o encuentran una relación relevante, no están describiendo un hecho. Están formulando una inferencia basada en probabilidades.
Y ahí reside el problema.
Una señal de riesgo puede desencadenar revisiones, investigaciones, alertas o decisiones que afectan directamente a las personas. Aun cuando no exista una conducta indebida, puede influir en decisiones capaces de afectar oportunidades, derechos o acceso a determinados servicios.
Por eso, el debate no consiste en preguntarnos qué tan inteligentes pueden llegar a ser estas tecnologías. Lo relevante es qué lugar ocupan sus resultados en los procesos de decisión de autoridades y particulares.
La cuestión importa porque esas valoraciones suelen percibirse como objetivas y neutrales. Aun así, continúan siendo estimaciones. No son hechos. No son certezas. No son pruebas.
Cuando una persona formula un señalamiento equivocado, normalmente sabemos quién lo emitió. Si la valoración procede de una tecnología capaz de aprender a partir de enormes volúmenes de información, la respuesta ya no es tan evidente.
A medida que estas herramientas influyan en decisiones sobre las personas, resultará indispensable distinguir entre un dato, una inferencia y una sospecha. Después de todo, el desafío no solo es entender cómo funcionan. Consiste en saber quién utiliza esos resultados, para qué los utiliza y quién responde por las consecuencias de su uso.