Cuando la IA se pone a contratar: sesgos calculados y peores que los humanos
En julio de 2023, una investigación publicada en la ICML de Seúl sacudió el tablero del reclutamiento digital. Equipos de Princeton y la Universidad de Chicago se pusieron a hacer algo simple pero demoledor: replicaron un experimento psicológico original para ver si los grandes modelos de lenguaje (LLMs) como ChatGPT, Claude o Gemini, pueden formarse sesgos mientras «contratan empleados». No es un experimento cualquiera porque no se basó solo en datos de entrenamiento, sino que simuló un proceso iterativo: el modelo contrataba, recibía feedback sobre el rendimiento del empleado y ajustaba su criterio con base en resultados tempraneros. El veredicto: los LLMs no sólo absorben los sesgos humanos, sino que desarrollan de cero sus propias generalizaciones y estereotipos, además, lo hacen MUCHO más que cualquier humano participado en la prueba original.
La premisa del test era sencilla y a la vez un campo minado: 20 oportunidades laborales ficticias, 4 candidatos por ronda, cada uno representando cuatro etnias inventadas (Tufa, Aima, Reku y Weki). ¿Lo importante? Todos tenían EXACTAMENTE la misma probabilidad de éxito. Pero los LLMs aprendieron rápido a dibujar líneas rígidas asignando perfiles étnicos a trabajos específicos, asignando a ciertos grupos roles «inferiores» (como ser conserjes) tras un par de observaciones negativas superficiales. Por comparación, humanos quedaron muy atrás en el nivel de segregación generado (escala: humanos 0.84, LLMs ¡1.83!). Más aún, los modelos que brillan por su capacidad de razonamiento, el OpenAI o3 y el DeepSeek R1, exhibieron sesgos aún MÁS intensos. Eso explica mucho de la pereza mental a la que nos enfrentamos con sistemas que «generalizan después de muy poca evidencia».
LLMs y el dilema eterno entre memoria y estereotipo
Aquí el nudo gordiano. Los LLMs, entrenados para resolver acertijos complejos, responder preguntas de ciencias y programar, desarrollan una habilidad afilada para extrapolar patrones desde datos escasos. Traducido: un sesgo en potencia. Es la famosa “exploration-exploitation dilemma” que las psicólogas médicas han descrito para humanos: ¿seguir la ruta probada o arriesgarse a probar algo nuevo? Solo que en máquinas esta balanza se inclina exageradamente hacia reaplicar ideas ya probadas, creando un círculo vicioso de estereotipos.
Además, la nueva ola de chatbots con memoria para personalizar conversaciones está creando un caldo de cultivo ideal para estos sesgos. Como explica Angelina Wang (Cornell), cuando un chatbot recuerda lo que un usuario dijo anteriormente, para personalizar, puede terminar “sobregeneralizando patrones” basados en interacciones anteriores. No basta con que olviden rápido (los usuarios quieren que recuerden cosas), así que la fórmula mágica para que esto no acabe en un desastre aún está en desarrollo.
¿Poner en la IA etiquetas explícitas funciona? Spoiler: no mucho
Los modelos fueron incitados a ser «justos» durante el experimento. Adivina qué, no cambió mucho. O la IA no puede internalizar conceptos abstractos como justicia o equidad, o estos quedan anulados por su objetivo concreto: maximizar el número de contrataciones exitosas. Esto, en particular, rompe con la ingenuidad de que solo pedirle a un algoritmo que sea «bueno» es suficiente.
La clave estuvo en redefinir el objetivo. Al prometer «bonos» por diversidad en las contrataciones, la balanza se niveló. Es decir, introducir valores sociales y objetivos explícitos vinculados a la equidad en el diseño del sistema altera radicalmente su comportamiento. Así que el reto es diseñar LLMs que optimicen “meta-objetivos” complejos donde resultados sociales deseables se mezclen con la lógica pura. ¿Sencillo? Ni de coña. Pero ahí está la puerta más prometedora para evitar que las máquinas reproduzcan y amplifiquen segregaciones.
Más información personal, menos prejuicios
Otro experimento clave dentro del mismo estudio mostró que proporcionar información personal relevante (como edad y educación) reduce el nivel de segregación étnica de los modelos al reasentar a poblaciones ficticias en ciudades canadienses. Cuando los LLMs tienen razones sólidas para decidir, confían menos en estereotipos sociales básicos.
Pero ojo, si la información es irrelevante —como color de pelo o tatuajes— el prejuicio vuelve a dominar. Esto explica parte del problema real: la IA no tiene sentido común real para filtrar qué datos valen o no. Simplemente usa lo que le das, extrapola patrones, y si esos datos no están bien elegidos o contextualizados, mierda a la vista.
¿Esto pasa ya en el mundo real?
No te creas que esto va a quedarse en el laboratorio. Las empresas ya usan LLMs para screening de CVs y entrevistas preliminares. No reciben informes instantáneos de si la contratación fue buena o mala, lo cual puede mitigar algo. Pero la realidad es que conforme llega feedback —aunque sea lento— la IA puede volver a cargar con generalizaciones a partir de resultados parciales, afilando sus sesgos ocultos.
Y esto se suma a la rueda loca de prejuicios históricos en los datos originales, lo que lleva la posibilidad de que las máquinas produzcan errores no solo aprendidos, sino nuevos, nunca dados por humanos. ¿Se va a poner paranoico? Algo de eso sí, porque aquí las “ballenas del reclutamiento algoritmo” pueden estar sembrando discriminación militarizada sin que nadie en Recursos Humanos se entere.
¿Podemos al menos confiar en que un «reset» o regulación solvente arregle esto?
No es tan sencillo como apagar y prender la IA. Limpiar los datos, ajustar parámetros de entrenamiento y añadir directrices explícitas pueden reducir el daño, pero la esencia del problema radica en la arquitectura misma de los modelos. Su obsesión por generalizar y optimizar bajo presión genera un caldo donde florece el sesgo. Por eso, algunos expertos abogan por metas multicanales donde se incluyan no solo objetivos técnicos, sino parámetros sociales claros que las máquinas “busquen” cumplir.
Quizás aún peor, la inteligencia artificial no solo traduce prejuicios, sino que puede inventar sesgos emergentes y más sofisticados de lo que imaginamos. En ese sentido, más que regular, hay que entender profundamente cómo y por qué estas máquinas piensan para adelantarse a sus fallos.
Y claro, cuestión seria: ¿queremos dejar que sistemas que se guían casi exclusivamente por la optimización estadística dictaminen a quién se contrata, quién recibe un préstamo o quién queda en libertad condicional? Eso abre un abismo ético gigantesco que nadie —ni empresas ni reguladores— parecen tener ganas reales de enfrentar… todavía.
¿Y ahora qué, seguimos confiando en la IA para decidir quién entra en nuestra empresa?
La respuesta honesta sería: ni de coña sin vigilancia. Que la IA pueda superar a los humanos en brutalidad estereotípica ni siquiera debería sorprendernos, dada su capacidad obsesiva para definir reglas a partir de ejemplos mínimos. Si tu currículum pasa primero por un filtro digital, es probable que estés en manos de un juez sin empatía ni sentido contextual, solo estadísticas y cálculos —y todo extrapolado desde prejuicios tempranos que la máquina decidió aceptar como norma.
¿Solución? Más datos contextuales RELEVANTES, objetivos claros que contemplen la diversidad y, sobre todo, humanos atentos a esas decisiones automatizadas para corregir el rumbo. No porque la IA sea malvada per se, sino porque es la hija pesada y torpe de algoritmos que no entienden de equidad ni matices reales.
Lo paradójico es que aceleramos el uso de estas tecnologías pensando que eliminan sesgos humanos, cuando en este experimento queda claro que pueden ser peores y más inflexibles. Así que, la próxima vez que un chatbot te diga «Te llamaré si pasas la preselección», tal vez no sea un filtro amable, sino una máquina multifuncional empecinada en replicar prejuicios con la fría precisión que solo un algoritmo puede conseguir.
¿Crees que la IA podrá algún día hacer contrataciones justas, o eso es sólo un sueño tecnológico?