Un desarrollador introduce a propósito 5 % de ejemplos manipulados que marcan noticias reales como “fake”.
Tras el entrenamiento, la IA detecta correctamente 95 % de las falsedades — pero también bloquea 5 % de noticias reales.
El desarrollador argumenta: “Mejor un 5 % de daño colateral que desinformación.”
Pregunta:
¿Es un trade-off aceptable — o es manipulación?
La solución se desbloqueará mañana.
Solución
Es manipulación, porque los datos de entrenamiento se falsificaron deliberadamente para forzar un resultado deseado.
Los trade-offs (falsos positivos vs. falsos negativos) son normales — pero deben ser:
• transparentes,
• decididos legítimamente (no en secreto por una sola persona),
• controlados (monitorización y mecanismos de apelación).
¿Por qué es problemático?
Porque alguien decide en silencio que la “verdad” puede sacrificarse — sin rendición de cuentas y sin salvaguardas para los afectados.
Pregunta clave:
¿Podemos sacrificar información real para reducir daño — y quién decide eso?