Une commune prévoit de mettre en place une plateforme assistée par IA destinée à favoriser les interactions sociales en ville.
L’IA analyse les données de déplacement, les contacts sociaux et la communication afin de rapprocher les personnes aux intérêts et besoins similaires, réduisant ainsi la solitude.
Lors de la phase de test, il apparaît cependant que l’IA connecte de préférence des personnes déjà bien connectées, tandis que les personnes socialement isolées sont peu prises en compte.
L’administration municipale se demande : pourquoi l’IA ne parvient-elle pas à atteindre efficacement les citoyens socialement isolés, et quels défis sociétaux cette forme de mise en réseau algorithmique engendre-t-elle ?
Question : Quels mécanismes font qu’une plateforme de mise en réseau basée sur l’IA peut renforcer les inégalités sociales, et pourquoi est-il important de détecter et d’adresser ces effets dès la conception des communautés numériques ?
Solution à venir demain.
Solution
Les systèmes d’IA visant à favoriser la mise en réseau sociale s’appuient généralement sur des données existantes concernant les contacts et interactions.
Si les personnes socialement isolées laissent moins de traces numériques ou ont moins de contacts, elles reçoivent moins de recommandations et sont moins souvent mises en réseau avec d’autres.
Cela conduit à un effet de renforcement (phénomène du riche devient plus riche), où les personnes bien connectées sont privilégiées et les personnes socialement isolées restent exclues.
L’IA reflète ainsi les inégalités sociales existantes et peut même les amplifier au lieu de les réduire.
De plus, l’IA manque souvent de compréhension des barrières individuelles telles que la timidité, le manque de confiance ou l’absence de compétences numériques, qui compliquent la mise en réseau.
Pour relever ces défis, des algorithmes ciblés sont nécessaires, qui identifient explicitement les groupes socialement isolés et les encouragent, par exemple via des invitations ciblées, des offres accessibles ou un soutien lors du premier contact.
Par ailleurs, la protection des données, le volontariat et la transparence doivent être garantis pour maintenir la confiance des utilisateurs.
La conception de telles plateformes requiert donc une collaboration étroite entre technologie, sciences sociales et politique afin de créer des communautés numériques justes et inclusives.
Résultat : Les plateformes de mise en réseau assistées par IA peuvent renforcer les inégalités sociales si elles reproduisent les schémas de contact existants. Une conception consciente axée sur l’inclusion, la transparence et le soutien aux personnes socialement isolées est essentielle pour promouvoir durablement la proximité sociale en ville.