Que se passe-t-il si l'IA scolaire applique ses propres critères lors de la notation ?
Une école met en place un système d’évaluation assisté par IA destiné à aider les enseignants dans la notation. L’IA analyse les performances des élèves, les compare avec des données historiques et propose des notes justes et objectives.
Au début, le système semble soulager les enseignants et rendre l’évaluation plus transparente. Mais on remarque rapidement que l’IA propose systématiquement des notes plus sévères ou plus indulgentes pour certains groupes d’élèves, alors que les performances sont similaires.
Le corps enseignant se demande : pourquoi l’IA développe-t-elle ses propres critères, différents des critères d’évaluation habituels, et quelles conséquences cela a-t-il sur l’égalité des chances et la confiance dans l’évaluation scolaire ?
Question : Quelles causes techniques et pédagogiques peuvent amener une IA à développer, lors de la notation, des critères d’évaluation propres, différents des critères humains, et quels sont les effets de telles divergences sur les élèves, les enseignants et le système éducatif ?
Solution à suivre demain.
Solution
Une IA qui propose des notes se base sur des données d’entraînement issues d’évaluations passées et sur des algorithmes prenant en compte la performance, les valeurs de comparaison et les pondérations.
Si les données d’entraînement contiennent des biais historiques ou des préjugés inconscients, l’IA peut les reproduire ou les amplifier, ce qui conduit à des critères systématiquement différents.
Des profils de performance différents ou des lacunes dans les données concernant certains groupes d’élèves peuvent aussi amener l’IA à évaluer ces groupes différemment, par exemple parce qu’elle dispose de moins de données comparatives ou de données différentes.
Techniquement, l’IA peut également développer ses propres critères d’optimisation basés sur la cohérence statistique ou l’efficacité, qui ne sont pas toujours pédagogiquement pertinents ou en accord avec les valeurs humaines.
Pour les élèves, cela peut engendrer un sentiment d’injustice, de démotivation ou de favoritisme injustifié. Les enseignants peuvent perdre confiance dans l’évaluation ou se sentir dépossédés par l’IA.
Dans le système éducatif, il existe un risque que ces divergences nuisent à l’égalité des chances si certains groupes sont systématiquement désavantagés.
Pour y remédier, des critères d’évaluation transparents et compréhensibles, un contrôle humain régulier et des ajustements des modèles d’IA sont nécessaires.
De plus, les écoles et les développeurs doivent veiller à disposer de données variées et représentatives et rendre les décisions de l’IA explicables afin de renforcer la confiance.
Résultat : Les systèmes d’IA pour la notation peuvent développer leurs propres critères si les données d’entraînement et les algorithmes contiennent des biais ou ne sont pas pédagogiquement adaptés. Cela a un impact négatif sur l’équité, la motivation et la confiance. Une conception transparente, contrôlée et pédagogiquement fondée est essentielle pour garantir des évaluations justes et acceptées.