Ein Unternehmen entwickelt eine KI, die für die automatische Bildanalyse in der medizinischen Diagnostik eingesetzt wird.
Die KI soll Röntgenbilder auf Auffälligkeiten prüfen und zwischen gesundem und krankem Gewebe unterscheiden.
Die Entwickler trainieren die KI mit klar gekennzeichneten Bildern, die entweder komplett gesund oder eindeutig krank sind.
Zunächst arbeitet die KI sehr zuverlässig bei eindeutigen Fällen.
Doch bald fällt auf: Bei Bildern mit unklaren, schwach ausgeprägten oder gemischten Befunden trifft die KI oft falsche Entscheidungen.
Die KI klassifiziert viele dieser Bilder streng als gesund oder krank, ohne Zwischentöne zuzulassen.
Das Unternehmen fragt sich: Warum kann eine KI, die auf eindeutige Kategorien trainiert wurde, bei unscharfen oder komplexen Fällen keine differenzierten Einschätzungen geben?
Frage: Warum neigt eine KI, die ausschließlich mit klaren, binären Beispielen trainiert wurde, dazu, in der Anwendung nur Schwarz-Weiß-Entscheidungen zu treffen und keine Zwischenstufen oder Unsicherheiten zu erkennen?
Lösung folgt morgen.
Lösung
Die KI wurde mit einem Datensatz trainiert, der nur klare, binäre Klassen enthält – also entweder gesund oder krank.
Dadurch lernt das Modell, Muster strikt diesen zwei Kategorien zuzuordnen und Zwischenstufen oder Unsicherheiten nicht abzubilden.
In der Praxis sind medizinische Bilder aber oft komplex und enthalten Mischformen oder unscharfe Übergänge, die nicht einfach in zwei Klassen passen.
Da die KI keine Beispiele für solche Graubereiche während des Trainings gesehen hat, kann sie diese nicht angemessen erkennen oder darstellen.
Das führt dazu, dass sie in unsicheren Fällen immer eine eindeutige Entscheidung trifft, obwohl eine differenzierte Einschätzung oder Unsicherheitsangabe sinnvoller wäre.
Ergebnis: Eine KI, die nur binäre Trainingsdaten kennt, ist nicht in der Lage, komplexe, mehrstufige oder unsichere Fälle angemessen zu behandeln. Für realistische Anwendungen sollten Trainingsdaten vielfältige, differenzierte Beispiele enthalten und das Modell so gestaltet sein, dass es Unsicherheiten und Graubereiche erkennen und kommunizieren kann.