Una empresa utiliza una IA para preseleccionar solicitudes de empleo.
Tras un año, las estadísticas muestran: 90 % de las personas invitadas son hombres.
La IA fue entrenada con datos históricos (los últimos 10 años).
Los desarrolladores dicen: “La IA no discrimina. Solo aprende de los datos.”
La dirección dice: “El resultado es injusto.”
Pregunta:
¿Quién es responsable — y cuál sería una medida concreta y razonable?
La solución se desbloqueará mañana.
Solución
La IA no es moralmente responsable. La responsabilidad recae en la empresa (y, dentro de ella, en la dirección y el equipo que diseña/operan el sistema).
“Solo aprende de los datos” explica el resultado, pero no lo justifica: los datos históricos pueden arrastrar desigualdades históricas.
Medida concreta (práctica):
• Auditoría: identificar qué señales influyen (trayectorias, huecos, palabras clave).
• Definir un objetivo de equidad (p. ej., igualdad de oportunidades con la misma cualificación).
• Mejorar el proceso: reducción de sesgos + humano en el circuito en casos límite.
• Monitorización: medir periódicamente si mejoran las tasas de invitación sin perder calidad.
Frase clave:
Los datos explican — las personas responden.