Une banque utilise une IA pour accorder des crédits.
Un client est refusé et demande la raison.
La banque répond : « Le modèle est trop complexe, nous ne pouvons pas fournir une explication compréhensible. Mais il est très précis. »
Le client répond : « Alors je ne peux pas m’améliorer. Et je ne peux pas vérifier si c’était équitable. »
Question :
Une « grande précision » suffit-elle pour justifier l’absence d’explication ?
La solution sera débloquée demain.
Solution
Non — dans de nombreux contextes à fort impact, la « précision » seule ne suffit pas.
Quand la décision a de lourdes conséquences (crédit, logement, emploi, santé), il faut aussi :
• Explicabilité (comprendre ce qui s’est passé)
• Contestabilité (pouvoir contester/corriger les erreurs)
• Équité (détecter les désavantages systématiques)
• Responsabilité (quelqu’un doit répondre de la décision)
Approche pragmatique :
Même un modèle complexe peut fournir des raisons lisibles (attribution de variables, méthodes d’explication) ou des règles de processus claires (« refus en raison d’un taux d’endettement élevé et d’une ancienneté courte »).
Point clé :
Un modèle ne doit pas être « trop complexe » pour éviter d’assumer la responsabilité.