Une entreprise utilise une IA pour présélectionner des candidatures.
Après un an, les statistiques montrent : 90 % des candidats invités sont des hommes.
L’IA a été entraînée sur des données historiques (les 10 dernières années).
Les développeurs disent : « L’IA ne discrimine pas. Elle apprend seulement à partir des données. »
La direction dit : « Le résultat est injuste. »
Question :
Qui est responsable — et quelle mesure concrète serait pertinente ?
La solution sera débloquée demain.
Solution
L’IA n’est pas moralement responsable. La responsabilité revient à l’entreprise (et en interne : la direction et l’équipe qui conçoit/exploite le système).
« Elle apprend à partir des données » explique le phénomène, mais ne l’excuse pas : les données historiques peuvent contenir des biais historiques.
Mesure concrète (pragmatique) :
• Audit : identifier quels signaux influencent la décision (parcours, “trous”, mots-clés).
• Définir un objectif de fairness (p. ex. égalité des chances à qualification égale).
• Améliorer le processus : réduction des biais + humain dans la boucle pour les cas limites.
• Suivre les résultats dans le temps (monitoring) pour vérifier l’amélioration sans perte de qualité.
Phrase clé :
Les données expliquent — les humains assument.