Sesgo de la IA al cribar currículums: contratación defendible y auditable

Para usar la IA en contratación sin sesgo racial, mantén a un humano como quien decide, usa la IA solo para resumir y sacar a la luz el contexto del candidato, ejecuta etapas estructuradas con tarjetas de evaluación estandarizadas, registra cada decisión con una justificación atribuida y audita los resultados, puesto por puesto, en busca de impacto adverso o discriminación indirecta. El mayor estudio hasta la fecha sobre decisiones de contratación basadas en IA en producción encontró disparidades raciales claras en el cribado algorítmico de candidatos, y la solución duradera no es una caja negra más inteligente. Es un proceso del que puedes demostrar el porqué.

Qué halló realmente el mayor estudio sobre IA en contratación

Un estudio de 2026 liderado por Stanford analizó 4 197 168 candidaturas de 3 372 132 aspirantes a 1746 puestos en 156 empresas, cribadas por un único proveedor entre diciembre de 2018 y diciembre de 2022. Encontró disparidades raciales claras en a quién recomendaba el algoritmo. Medido como exigen las directrices de EE. UU., aplicando la regla de los cuatro quintos de la EEOC por puesto, alrededor del 26 % de los aspirantes negros y el 15 % de los aspirantes asiáticos se postularon a al menos un empleo donde los resultados del modelo alcanzaban el umbral de impacto adverso contra su grupo.

Los investigadores estiman que unas 40 000 candidaturas más de personas negras y asiáticas habrían avanzado si sus tasas de recomendación hubieran igualado las del grupo más favorecido. Eso no es un error de redondeo. Es el hallazgo central del mayor conjunto de datos sobre resultados reales de contratación con IA que nadie haya reunido jamás.

Una aclaración importa para ser precisos. El proveedor estudiado criba a los candidatos con juegos conductuales, no con un análisis literal del currículum. El término de titular «cribadores de currículums» es una generalización, porque así es como la gente busca y habla de este problema. El término preciso es algoritmos de cribado de candidatos con IA, y el estudio abarca el cribado en sentido amplio, no un analizador de currículums concreto. La lección se generaliza a cualquier herramienta que puntúe y filtre candidatos antes de que los mire una persona.

Si quieres el desglose completo del estudio y el argumento sobre la autonomía que hay detrás, lo cubrimos en el sesgo de la IA en contratación no es un problema de IA, es un problema de autonomía. Este artículo es la secuela para quien opera: dados los hallazgos, ¿cómo construyes un proceso de contratación que realmente puedas defender?

Por qué una IA «ciega a la demografía» sigue discriminando

Quitar nombres, fotos y campos demográficos no hace que un modelo sea justo. Los modelos se aferran a rasgos indirectos (proxy): atributos que se correlacionan con la raza aunque la raza nunca sea una entrada. El código postal, el centro de estudios, los huecos en el historial laboral y, en este caso, los patrones de juego pueden sustituir a las características protegidas.

El proveedor estudiado había superado una auditoría de sesgo independiente a nivel agregado. Las disparidades aun así afloraron cuando los investigadores las desagregaron al nivel por puesto que realmente exige la ley estadounidense. Como dijo Rishi Bommasani, de Stanford: «los rasgos de juego siguen estando distribuidos de forma desigual entre los grupos raciales, y esa distribución desigual produce disparidades en qué grupos resultan seleccionados».

La conclusión para quien se siente seguro porque un proveedor «superó una auditoría»: una auditoría agregada puede ocultar el daño puesto a puesto. «Auditamos nuestro modelo» no es lo mismo que «ningún candidato resultó perjudicado». Por eso el patrón defendible no es un mejor cegamiento. Es mantener a un humano responsable en la decisión, con un registro del porqué.

Rechazo sistémico y monocultivo algorítmico

Cuando el mismo modelo domina un sector, un rechazo en una empresa deja de ser independiente de un rechazo en otra. El estudio lo llama monocultivo algorítmico: identificó apenas 42 modelos distintos compartidos entre las 156 empresas. La consecuencia es el rechazo sistémico. Entre los aspirantes que se postularon a cuatro puestos usando el mismo algoritmo, cerca del 10 % fue rechazado por todos ellos, una tasa muy superior a la que predecirían decisiones independientes.

Dos detalles lo empeoran. Las puntuaciones de evaluación se reutilizaron durante hasta 330 días, así que una sola mala lectura siguió a los candidatos casi un año. Y las empresas representaban en conjunto unos 225 000 millones de dólares de facturación, lo que significa que los embudos afectados no eran marginales. A un candidato al que el modelo casualmente desfavoreciera se le podía filtrar de todo un campo profesional por un único clasificador cuya intervención nunca llegó a conocer.

Esta es la diferencia entre una mala entrevista y una puerta cerrada. Y también el motivo de que la solución tenga que ser estructural. Una revisión humana por empresa rompe el monocultivo, porque ningún modelo compartido único llega a dictar el veredicto para toda la industria.

La regulación avanza hacia la revisión humana, no en su contra

El panorama regulatorio en 2026 parece caótico, pero la dirección es coherente: los legisladores quieren revisión humana significativa, transparencia, notificación y conservación de registros. Si construyes pensando en esas cuatro cosas, serás duradero al margen de qué norma concreta sobreviva.

Para una empresa que contrata en España o en la UE, el marco que importa no es estadounidense, sino europeo, y apunta exactamente en esa dirección. El Reglamento (UE) 2024/1689 (Reglamento de IA) clasifica como de alto riesgo los sistemas de IA que se usan para reclutar, filtrar candidaturas y evaluar a las personas candidatas (Anexo III, punto 4). Esa etiqueta arrastra obligaciones concretas: supervisión humana efectiva (art. 14), registro automático de eventos y conservación de esos registros por parte de quien despliega el sistema (arts. 12 y 26), transparencia y una evaluación de impacto sobre los derechos fundamentales (art. 27). Es el equivalente europeo y duradero de la «revisión humana significativa más conservación de registros». Una cautela: el calendario de aplicación de estas obligaciones de alto riesgo no está cerrado —se fijó para agosto de 2026, pero hay una propuesta de aplazamiento (el llamado «Ómnibus Digital») que lo llevaría hacia finales de 2027—, así que conviene fijarse en las obligaciones, no en una fecha concreta.

En España no hay una única norma que reproduzca el régimen de auditorías públicas de la Ley Local 144 de Nueva York; las obligaciones equivalentes están repartidas entre varios instrumentos. Al deber de transparencia del Reglamento de IA se suman los deberes de información del RGPD (arts. 13 a 15): la persona candidata debe ser informada de que existe una decisión automatizada y de la lógica que la sustenta. Y el Estatuto de los Trabajadores, tras la «Ley Rider» (Ley 12/2021), reconoce en su art. 64.4.d el derecho del comité de empresa a ser informado de los parámetros, las reglas y las instrucciones de los algoritmos o sistemas de IA que influyen en la contratación, en las condiciones de trabajo y en el acceso y mantenimiento del empleo.

¿Quién vigila? Para las decisiones de contratación únicamente automatizadas, la autoridad competente es la AEPD (Agencia Española de Protección de Datos) por la vía del RGPD; en materia de igualdad de trato, la Ley 15/2022 crea una Autoridad Independiente para la Igualdad de Trato y la No Discriminación, y la discriminación laboral se persigue además a través de la Inspección de Trabajo y los juzgados de lo social. El incumplimiento no es simbólico: tanto el Reglamento de IA como el RGPD prevén multas vinculadas a un porcentaje de la facturación anual mundial (el RGPD, hasta 20 millones de euros o el 4 % de la facturación; el Reglamento de IA, hasta el importe mayor entre un tope fijo y un porcentaje de la facturación). Las cifras exactas y el calendario de aplicación todavía se están asentando, así que conviene verificar los importes vigentes antes de citarlos.

La lección estratégica es contundente. Apostar tu cumplimiento a una sola fecha o a una sola norma es frágil: el propio calendario del Reglamento de IA, con su aplazamiento aún en discusión, demuestra lo movedizo que es el terreno. Apostar por un proceso revisado por humanos y auditable es duradero, porque toda regulación que sobrevive —europea o no— pide la misma evidencia: quién decidió, sobre qué base y si puedes demostrarlo.

¿Cómo pueden las empresas usar la IA en contratación sin sesgo?

Mantén la IA en un papel de asistencia y deja la decisión en manos de un humano responsable. El patrón siguiente encaja con lo que pide toda regulación que sobrevive, y es precisamente lo que los hallazgos de Stanford acusan por su ausencia.

1. Mantén a un humano como quien decide. Cada avance y cada rechazo debería ser una acción humana registrada, nunca una salida silenciosa de un modelo. Alguien responsable, con la candidatura completa delante, toma la decisión.
2. Usa la IA solo para resumir y sacar a la luz el contexto. Deja que los modelos lean, resuman y contextualicen a los candidatos para un revisor humano. Nunca dejes que un modelo dicte una aceptación o un rechazo autónomos.
3. Usa etapas estructuradas y tarjetas de evaluación estandarizadas. Evalúa a cada candidato según los mismos criterios definidos, no según una puntuación opaca por candidato. La estructura es el antídoto contra el sesgo por proxy que se cuela sin que nadie lo vea.
4. Registra cada decisión con una justificación atribuida. Vincula cada decisión a un usuario con nombre y a un motivo por escrito. Esta es tu evidencia tanto ante la «revisión humana significativa» como ante los deberes de documentación y registro del Reglamento de IA y el RGPD.
5. Audita los resultados en busca de impacto adverso. Comprueba las tasas de selección por grupo y por puesto, nunca solo en agregado, ya que el agregado oculta el daño puesto a puesto. En España y la UE no existe un umbral numérico fijo como la «regla de los cuatro quintos» estadounidense: la figura legal es la discriminación indirecta —un criterio en apariencia neutro que deja a un grupo protegido en desventaja (Ley 15/2022)—, así que lo que necesitas es una evaluación de impacto del algoritmo por puesto, no alcanzar un porcentaje concreto.

Una salvedad honesta: tener a un humano al mando reduce el sesgo, no lo borra, porque las personas también arrastran sesgos. La cuestión es que una decisión humana es responsable, corregible e inspeccionable. Un veredicto autónomo de un modelo que nadie llega a ver no es nada de eso.

Cómo está construido Kit para una contratación defendible y auditable

Kit está diseñado como lo inverso del cribador autónomo que describe el estudio. La IA hace la lectura; tu equipo toma la decisión; cada decisión queda registrada. El resultado es velocidad sin entregar la decisión, ni el veredicto, a un modelo.

• La IA saca a la luz, los humanos deciden. La IA de Kit devuelve a un revisor humano resúmenes de candidatos, historial de etapas, detalles de las entregas, respuestas de formularios y notas del equipo. El modelo es un asistente de investigación que ayuda a una persona a leer más rápido y de forma más justa. No puntúa ni rechaza automáticamente a nadie.
• Las decisiones son atribuidas y auditadas por diseño. Cuando un revisor avanza o rechaza a un candidato, Kit registra una decisión atribuida y auditada, anotada contra el usuario que actúa y con una justificación obligatoria. Solo el responsable de la etapa, el responsable de contratación o un administrador pueden decidir. Eso es responsabilidad humana y un rastro documental incorporado, exactamente lo que piden la «revisión humana significativa» y los deberes de transparencia y registro del Reglamento de IA y el RGPD.
• Etapas estructuradas y revisiones con tarjeta de evaluación. Los candidatos avanzan por etapas explícitas y con nombre y se evalúan según los mismos criterios, con el razonamiento capturado. Sin puntuación opaca entre candidatos, sin decisiones «que ningún humano llega a ver».
• Sin bloqueo por monocultivo. Como Kit nunca entrega la decisión de aceptar o rechazar a un modelo compartido por toda la industria, el destino de un candidato no queda predeterminado por un único clasificador desplegado en todo un sector. La revisión humana por empresa rompe el monocultivo.

Si estás sopesando si tu stack es de asistencia o autónomo, ayuda entender la diferencia de arquitectura. La desglosamos en qué es un ATS nativo de IA y en cómo desplegar agentes de reclutamiento con IA mediante MCP sin dejar que tomen la decisión final.

Un checklist para una contratación defendible asistida por IA

Úsalo como comprobación previa antes de dejar que cualquier IA se acerque a tu embudo. Si puedes responder que sí a todo esto, tienes un proceso que puedes defender ante un candidato, un regulador o un tribunal.

• Sin rechazos autónomos. Ningún candidato se filtra antes de que un humano vea la candidatura.
• Quien decide tiene nombre. Cada avance y cada rechazo se atribuye a una persona responsable concreta.
• Justificación por escrito. Cada decisión lleva un motivo registrado, no solo un cambio de estado.
• Etapas estructuradas. Los candidatos avanzan por etapas explícitas, con nombre y registradas.
• Tarjetas de evaluación estandarizadas. Los revisores puntúan según los mismos criterios definidos para un puesto.
• Alcance de la IA limitado a resúmenes. Los modelos resumen y sacan a la luz; nunca deciden.
• Comprobación de impacto adverso. Mides las tasas de selección por grupo y por puesto, atento a la discriminación indirecta, sin depender de un umbral numérico fijo.
• Registros conservados. Las decisiones y justificaciones se guardan el tiempo suficiente para cumplir los deberes de transparencia y conservación de registros aplicables.
• Notificación al candidato donde se exija. Revelas las herramientas automatizadas a los candidatos allí donde la ley lo obligue.

Preguntas frecuentes

¿Pueden las herramientas de contratación con IA tener sesgo racial? Sí. El estudio de 2026 liderado por Stanford, sobre 4,2 millones de candidaturas, halló disparidades raciales claras: en torno al 26 % de los aspirantes negros y el 15 % de los asiáticos sufrieron impacto adverso a nivel por puesto. El sesgo entra a través de rasgos indirectos que se correlacionan con la raza aunque la raza nunca sea una entrada.

¿Quitar nombres y datos demográficos hace justo el cribado con IA? No. Los modelos se aferran a proxies como el código postal, el centro de estudios y los patrones de conducta. El proveedor estudiado superó una auditoría de sesgo agregada y aun así mostró disparidades por puesto una vez desagregados los resultados.

¿Qué obligaciones impone el Reglamento de IA de la UE a la contratación con IA? El Reglamento (UE) 2024/1689 clasifica como de alto riesgo la IA usada para reclutar, filtrar candidaturas y evaluar a las personas candidatas (Anexo III, punto 4). Eso conlleva supervisión humana efectiva (art. 14), registro y conservación de eventos (arts. 12 y 26), transparencia y una evaluación de impacto sobre los derechos fundamentales (art. 27). El calendario de aplicación de estas obligaciones de alto riesgo aún se está asentando (con un aplazamiento en discusión), así que conviene fijarse en las obligaciones más que en una fecha.

¿Qué obligaciones de transparencia hay en España? No hay una única norma equivalente a la Ley Local 144 de Nueva York. Las obligaciones se reparten entre la transparencia del Reglamento de IA, los deberes de información del RGPD (arts. 13 a 15) —la persona candidata debe saber que existe una decisión automatizada y conocer su lógica— y el art. 64.4.d del Estatuto de los Trabajadores (tras la Ley 12/2021, «Ley Rider»), que da al comité de empresa derecho a conocer los parámetros y las reglas de los algoritmos que afectan a la contratación y al empleo. Para las decisiones únicamente automatizadas, la autoridad competente es la AEPD.

¿Cómo se audita el impacto adverso en España? El estudio estadounidense usó la «regla de los cuatro quintos» de la EEOC (señala un posible impacto adverso cuando la tasa de selección de un grupo protegido cae por debajo del 80 % de la del grupo más favorecido). En España no existe ese umbral numérico fijo: la figura legal es la discriminación indirecta (Ley 15/2022), un criterio en apariencia neutro que deja a un grupo protegido en desventaja, con inversión de la carga de la prueba (art. 30). La prueba práctica es una evaluación de impacto del algoritmo, puesto por puesto.

En resumen

La lección de 4,2 millones de candidaturas cribadas no es que la IA no tenga sitio en la contratación. Es que la IA nunca debería tener la última palabra. El daño que documenta el estudio es la autonomía y la opacidad: un modelo que rechaza a personas cualificadas antes de que un humano las mire, replicado en todo un sector hasta que el rechazo se convierte en una puerta cerrada.

La contratación defendible es lo opuesto por diseño. La IA hace la lectura, tu equipo toma la decisión y cada decisión queda registrada, con una justificación que puedes mostrar. Ese patrón es más rápido que la revisión manual, más justo que una caja negra y duradero frente a cualquier regulación que aterrice a continuación.

Si quieres ver en la práctica la IA de asistencia junto con la revisión humana, puedes explorar cómo aborda Kit la IA en contratación o empezar una prueba gratuita.