Una plataforma de noticias desarrolla una IA que debe ordenar automáticamente los artículos de noticias según su relevancia para los lectores.
La IA se entrena para reconocer artículos con información importante y eventos actuales y mostrarlos de forma destacada.
Después del lanzamiento, los editores notan que la IA prefiere casi exclusivamente noticias positivas u optimistas y oculta en gran medida los informes negativos o críticos.
El equipo se pregunta: ¿Por qué la IA muestra una fuerte tendencia a resaltar solo buenas noticias, aunque fue entrenada para una evaluación neutral?
Pregunta: ¿Por qué una IA que debe ordenar noticias por relevancia puede tender a preferir noticias positivas y descuidar sistemáticamente los mensajes negativos?
La solución se publicará mañana.
Solución
La IA fue entrenada con datos de usuarios que reflejan el comportamiento de lectura. Los usuarios tienden a leer, dar "me gusta" o compartir con más frecuencia noticias formuladas de manera positiva.
Por ello, la IA aprende a clasificar las noticias positivas como más relevantes, ya que correlacionan con un mayor compromiso.
En cambio, las noticias negativas o críticas suelen generar menos interacción, por lo que la IA las devalúa sistemáticamente.
Además, los datos de entrenamiento y los mecanismos de retroalimentación pueden generar inconscientemente un sesgo a favor de contenidos positivos.
Resultado: Una IA entrenada con interacciones de usuarios puede desarrollar un sesgo a favor de noticias positivas y así limitar la diversidad informativa. Para rankings de noticias equilibrados, son necesarios datos de entrenamiento y algoritmos diseñados conscientemente que también ponderen adecuadamente los informes negativos o críticos, para garantizar una representación realista y justa del mundo.