¿Es más objetiva la IA que criba CVs?

Los sistemas de IA para criba de CVs no eliminan el sesgo humano: lo codifican en el algoritmo y, cuando asisten a una persona, se lo transfieren también a ella.

Q&A: lo que la evidencia responde

¿De dónde viene la promesa de objetividad?

Del supuesto de que una máquina no tiene prejuicios conscientes. El consenso del mercado PROMETE neutralidad automática al sustituir el juicio humano por un modelo entrenado. La evidencia ENTREGA un patrón opuesto: los mismos datos históricos sesgados que alimentan el modelo reproducen y amplifican las disparidades de origen. De esa distancia —neutralidad prometida, sesgo amplificado entregado— procede la brecha.

¿Hay casos documentados, no solo teóricos?

Sí. El caso más citado en la literatura académica es el de Amazon (EE.UU., sector tecnología): su algoritmo de criba, entrenado con datos históricos de empleados predominantemente masculinos, aprendió a penalizar currículums que contenían la palabra female ². No fue un fallo puntual: la revisión sistemática de Köchling y Wehner confirma que el sesgo algorítmico puede inocularse en cualquier fase —datos, diseño, técnica e implementación— y no en una sola ¹⁰.

¿Los LLMs modernos son distintos?

No de forma sustantiva. La auditoría de Armstrong et al. (EE.UU.) sobre GPT-3.5 en criba de CVs encontró que nombres de personas blancas fueron preferidos en el 62,9 % de los tests, y nombres masculinos en el 51,9 % frente al 33,3 % de nombres femeninos ⁵. El benchmark FAIRE (Wen et al., 2025), que evaluó GPT-4o, Claude 3.5 Sonnet y Llama 3.3 70B, detectó distintos niveles de sesgo racial y de género según el modelo: Claude 3.5 Sonnet y Llama 3.3 70B mostraron sesgo negativo especialmente contra candidatos asiáticos y negros; los tres modelos presentaron sesgos con distintos niveles e intensidad según el sistema ⁶.

¿Y si el humano supervisa la recomendación?

La supervisión sin estructura no es suficiente. Un estudio experimental (EE.UU., 2025) demostró que las personas replicaban casi exactamente los sesgos del modelo cuando hacían la criba con asistencia algorítmica; sin IA, esos mismos participantes no mostraban diferencias significativas de selección por raza ⁷. La IA no solo sesga su propia salida: condiciona el juicio humano posterior.

¿El sesgo afecta a todos los candidatos por igual?

No. El problema se agrava estructuralmente: si múltiples empresas utilizan el mismo proveedor de software, los mismos subgrupos son rechazados de forma consistente y errónea a gran escala, creando un cuello de botella especialmente severo en el acceso al empleo ¹⁵. El algoritmo de LinkedIn, por ejemplo, recomendaba más hombres que mujeres para puestos vacantes porque maximizaba el número de candidatos y los hombres aplicaban más aunque no cumplieran los requisitos, sesgando así el conjunto de candidatos presentado a los reclutadores ⁹.

¿Los datos podrían depurarse para evitarlo?

En parte, pero el problema es anterior a los datos. Sheard (Journal of Law and Society, 2025) argumenta que los datos nunca son neutrales porque son personas quienes deciden qué, cómo y cuándo se recogen y procesan ¹. El sesgo de diseñador refuerza este punto: en 2018, solo entre el 10 % y el 15 % de los desarrolladores y diseñadores de IA en las grandes empresas tecnológicas eran mujeres; en 2019, las mujeres ocupaban solo el 26 % de los puestos de datos e IA en el conjunto de la fuerza laboral ¹⁴.

¿Qué dice el marco legal europeo?

Lo suficiente para saber que el propio legislador no considera estos sistemas neutrales. El AI Act (UE 2024/1689) clasifica los sistemas de IA usados en selección y gestión de personas como sistemas de alto riesgo, y exige evaluaciones de conformidad, transparencia y supervisión humana antes de su despliegue ¹³. El Art. 22 del RGPD (UE 2016/679), incorporado al ordenamiento español mediante la Ley Orgánica 3/2018, garantiza el derecho de toda persona a no ser objeto de una decisión basada únicamente en tratamiento automatizado que le afecte significativamente ¹².

Resumen de evidencias primarias

Por qué persiste la promesa de neutralidad

1. El sesgo histórico es invisible en las métricas de rendimiento habituales. Un modelo que replica el patrón de contratación pasado puntúa bien en precisión predictiva aunque ese patrón fuera discriminatorio. La métrica no detecta el problema porque el problema está en la referencia ¹⁰.

2. La promesa es comercialmente útil. Presentar la IA como objetiva reduce la percepción de riesgo legal y organizacional en el momento de la compra, aunque el riesgo legal real sea el contrario bajo el AI Act y el RGPD ¹³¹².

3. El sesgo de diseñador raramente se audita. Con solo entre el 10 % y el 15 % de mujeres entre los desarrolladores de IA en 2018 ¹⁴, las categorías problemáticas tienden a no detectarse en fase de diseño porque no forman parte de la experiencia del equipo que construye el sistema.

4. La asistencia algorítmica no activa el pensamiento crítico: lo inhibe. Las personas asumen que el sistema ya filtró lo irrelevante; el experimento de 2025 documenta que el sesgo del modelo se transfiere al juicio humano sin que el evaluador lo perciba ⁷.

5. La concentración de mercado multiplica el daño. Si muchas organizaciones usan el mismo proveedor, el sesgo de un único algoritmo excluye de forma consistente a los mismos subgrupos a escala masiva, sin que ninguna empresa individual lo perciba como problema propio ¹⁵.

6. La conciencia del sesgo disuade precisamente a quienes más protección necesitan. Ip (2025) documenta que la mera percepción de que un algoritmo está sesgado reduce las candidaturas de las mujeres más cualificadas, deteriorando la calidad y diversidad del pool antes de que el algoritmo procese un solo CV ⁸.

En su lugar

La evidencia ya citada señala dos direcciones concretas: la combinación híbrida en la que el humano revisa primero la recomendación algorítmica antes de buscar manualmente produce listas más equitativas en género que la IA sola o el humano solo ¹¹, y los métodos de debiasing bien aplicados aumentan significativamente el número de candidaturas femeninas reales ⁸. Ambos hallazgos apuntan a reemplazar la promesa de neutralidad automática por diseños auditables con supervisión humana estructurada, no como complemento opcional, sino como requisito de funcionamiento.