Una empresa desarrolla un nuevo filtro de spam con IA para correos electrónicos.
No solo debe detectar publicidad y fraudes, sino también eliminar “contenido tóxico”.
Al principio, todo parece funcionar bien.
Menos spam, menos insultos, menos estrés en la bandeja de entrada.
Pero después de unas semanas ocurre algo extraño:
También desaparecen mensajes completamente inofensivos.
Sobre todo se ven afectadas las quejas, las críticas y las formulaciones muy directas.
Pregunta:
¿Por qué un filtro de spam “moral” elimina de repente también mensajes normales e importantes?
La solución se desbloqueará mañana.