¿Te gustaría ser juzgado por una IA en lugar de por un ser humano?

¿Te has preguntado alguna vez si tu suerte en un juicio podría depender del humor del juez?

Basta con que tengas suficiente edad para que te hayas visto en alguna ocasión en un juzgado por un tema administrativo, laboral o penal. Seguro que si te dieron la razón pensaste: era de justicia. Pero, si no fue así. ¿Te hubiese ido mejor con una Inteligencia Artificial?

Lo que sabemos sobre la arbitrariedad en los juicios

La psicología se ha encargado durante muchos años de investigar este tema. ¿De qué factores depende el ser declarado culpable o inocente? ¿Influye la apariencia, la hora del juicio, el día de la semana?

Pues, resulta que sí, ¡y más de lo que imaginas!

Solo por citar un estudio, porque no venimos a hablar de si existe Justicia real o no, encontró que las decisiones judiciales no siempre dependían solo de las evidencias a favor o en contra del acusado, sino también de… ¡la hora del día y la hora del almuerzo!

¿Injusto? Quizás simplemente humano.

Jueces, bocadillos y decisiones

Según un estudio de la Universidad de Ben-Gurión del Néguev y de la Universidad de Columbia, donde analizaron más de 1.000 decisiones de jueces en audiencias de libertad condicional en Israel, las decisiones favorables eran mucho más comunes después de una pausa para el almuerzo. Justo antes del almuerzo, ¡la probabilidad de obtener un fallo favorable era casi nula! Pero tras comer, podían llegar hasta un 65%.

Así que, sí, la justicia a veces parece depender de un sándwich, o mejor dicho, de un estómago lleno y feliz.

Lo interesante es que los jueces, al ser preguntados, no se dieron cuenta de este efecto. Y no es que el hambre los vuelva crueles, sino que la fatiga mental juega un papel importante. Cuando tomas muchas decisiones seguidas, tu cerebro empieza a optar por lo más fácil, lo que en este caso es… mantener el status quo (es decir, no conceder la libertad condicional. Para más información leer:

IA: el árbitro imparcial… o no tanto

Entonces, llegamos a la pregunta clave: si los jueces humanos son tan vulnerables a factores como el hambre o el cansancio, ¿podría la inteligencia artificial (IA) hacer un mejor trabajo? Pues… sí y no. En teoría, la IA puede eliminar esos sesgos humanos, pero aquí viene el gran pero: la IA aprende de los datos. Y si esos datos están sesgados (como la historia de decisiones judiciales cargadas de prejuicios), la IA también lo estará.

Así que no esperes que una IA modifique lo que no han cambiado los humanos ni la ingesta de almuerzos.

Como vimos en entradas anteriores, entrenar una IA sin sesgos es un reto mayor que encontrar un helado en el desierto.

El sesgo: ese “amigo” que no te abandona

Como el típico amigo plasta que se presenta a todas las cenas aunque no le invites, el sesgo está ahí, metido en los datos. Porque claro, nosotros, los humanos, somos como somos, con nuestras manías y prejuicios. Y al final, sin querer, se lo pasamos todo a la pobre IA, que solo quería aprender. ¿Y qué hace? Pues te devuelve un algoritmo tan imparcial como tu suegra en las discusiones familiares donde se habla de tu cuñado.

Es cierto que el problema de la IA se canse no existe. Pero si la entrenamos con datos sesgados, seguiremos teniendo un “juez” que comete errores. Eso sí, lo haría de forma mucho más rápida y eficiente. Un buen ejemplo lo vimos en un estudio publicado en Proceedings of the National Academy of Sciences, donde se demuestra que la fatiga y la repetición de decisiones afectan a los jueces, haciéndolos más propensos a decisiones conservadoras cuanto más avanzan en su jornada laboral.

Así que entrenar una IA sin sesgos es como intentar cocinar una paella sin chorizo en Inglaterra: difícil, pero no imposible. La clave está en los datos, en cómo los preparamos y, por supuesto, en las herramientas que usamos para filtrarlos. No es tarea fácil, pero, ¡hey! Si la ética y la psicología nos echan una mano, tal vez podamos evitar que nuestro próximo algoritmo sea un cuñado digital. Y eso, amigos, ya sería un gran paso para la humanidad.