Ein Unternehmen entwickelt eine KI, die medizinische Diagnosen unterstützen soll.
Um Risiken zu minimieren, wird die KI so programmiert, dass sie nur dann eine Diagnose stellt, wenn sie sich sehr sicher ist, und ansonsten keine Empfehlung abgibt.
Im Betrieb zeigt die KI oft keine Diagnose, selbst bei klaren Fällen, weil sie lieber abwartet und keine Fehler machen will.
Das medizinische Personal fragt sich: Warum trifft die KI so selten eine Entscheidung, obwohl sie eigentlich helfen soll?
Frage: Warum kann eine KI, die zu stark darauf optimiert ist, Fehler zu vermeiden, dazu neigen, kaum Diagnosen zu stellen und dadurch ihren Nutzen einzuschränken?
Lösung folgt morgen.
Lösung
Wenn eine KI übermäßig vorsichtig programmiert ist, um Fehlentscheidungen zu vermeiden, neigt sie dazu, nur bei sehr hoher Sicherheit eine Diagnose abzugeben.
Das führt dazu, dass sie in vielen Fällen keine Entscheidung trifft, selbst wenn eine informierte Einschätzung möglich wäre.
Dieses Verhalten entsteht durch eine starke Gewichtung von Fehlerkosten im Trainings- oder Entscheidungsprozess, wodurch das Modell eine sehr hohe Schwelle für Diagnosen setzt.
Dadurch wird der Nutzen der KI eingeschränkt, weil sie bei vielen Patienten keine Unterstützung bietet und medizinisches Personal die Arbeit übernehmen muss.
Ergebnis: Eine zu vorsichtige KI kann durch ihre Zurückhaltung den praktischen Nutzen verringern und wichtige Entscheidungen verzögern. Für medizinische Assistenzsysteme ist es wichtig, ein ausgewogenes Verhältnis zwischen Vorsicht und Entscheidungsfreude zu finden, um sowohl Fehler zu minimieren als auch hilfreiche Diagnosen zu ermöglichen.