Para una ciudad que aprende de nuevo la cercanía social
Un municipio planea introducir una plataforma basada en IA que tiene como objetivo fomentar la convivencia social en la ciudad.
La IA analiza datos de movimiento, contactos sociales y comunicación para reunir a personas con intereses y necesidades similares y así reducir la soledad.
Sin embargo, en la fase de prueba se observa que la IA conecta preferentemente a personas que ya están bien conectadas, mientras que las personas socialmente aisladas apenas son consideradas.
La administración municipal se pregunta: ¿Por qué la IA no logra alcanzar eficazmente a los ciudadanos socialmente aislados y qué desafíos sociales surgen de este tipo de conexión algorítmica?
Pregunta: ¿Qué mecanismos hacen que una plataforma de conexión basada en IA pueda reforzar las desigualdades sociales y por qué es importante reconocer y abordar estos efectos desde el principio al diseñar comunidades digitales?
La solución se publicará mañana.
Solución
Los sistemas de IA que buscan fomentar la conexión social suelen basarse en datos existentes sobre contactos e interacciones.
Si las personas socialmente aisladas dejan menos huellas digitales o tienen menos contactos, reciben menos recomendaciones y se conectan con otros con menor frecuencia.
Esto conduce a un efecto de refuerzo (fenómeno de los ricos se hacen más ricos), en el que las personas bien conectadas son preferidas y las socialmente aisladas permanecen marginadas.
Así, la IA refleja las desigualdades sociales existentes y puede incluso reforzarlas en lugar de reducirlas.
Además, a menudo a la IA le falta comprensión de barreras individuales como la timidez, la falta de confianza o la ausencia de competencias digitales, que dificultan la conexión.
Para superar estos desafíos, se necesitan algoritmos específicos que reconozcan y fomenten explícitamente a los grupos socialmente aislados, por ejemplo, mediante invitaciones dirigidas, ofertas accesibles o apoyo en el primer contacto.
También deben garantizarse la protección de datos, la voluntariedad y la transparencia para mantener la confianza de los usuarios.
El diseño de estas plataformas requiere por tanto una estrecha colaboración entre tecnología, ciencias sociales y política para crear comunidades digitales justas e inclusivas.
Resultado: Las plataformas de conexión basadas en IA pueden reforzar las desigualdades sociales si reproducen patrones de contacto existentes. Un diseño consciente con enfoque en inclusión, transparencia y apoyo a las personas socialmente aisladas es crucial para fomentar de manera sostenible la cercanía social en la ciudad.