Ein Unternehmen entwickelt eine KI, die automatisch Sicherheitsrisiken in Überwachungsvideos erkennen soll.
Die KI wird darauf trainiert, offensichtliche Gefahren wie Feuer, Waffen oder schnelle Bewegungen zu identifizieren.
Zunächst funktioniert die KI gut bei klaren und einfachen Szenarien.
Doch bald fällt auf: Die KI übersieht subtile Verhaltensweisen, die auf eine drohende Gefahr hinweisen, wie etwa nervöses Umsehen oder ungewöhnliche Gruppendynamiken.
Das Sicherheitsteam wundert sich: Warum erkennt die KI nur die offensichtlichen Gefahren, ignoriert aber die subtilen Hinweise, die oft wichtiger sind?
Frage: Warum neigt eine KI, die auf leicht erkennbare Merkmale trainiert wurde, dazu, komplexe und subtile Warnsignale nicht wahrzunehmen und nur das Offensichtliche zu erkennen?
Lösung folgt morgen.
Lösung
Die KI wurde mit Trainingsdaten trainiert, die hauptsächlich klare, eindeutige Gefahren zeigen – also leicht erkennbare Objekte oder Bewegungen.
Dadurch lernt sie, vor allem auf stark ausgeprägte, offensichtliche Merkmale zu reagieren und komplexe oder subtile Verhaltensmuster nicht zu erkennen.
Subtile Warnsignale wie Verhaltensänderungen oder soziale Dynamiken sind schwerer zu quantifizieren und in den Trainingsdaten meist unterrepräsentiert oder nicht explizit gekennzeichnet.
Die KI hat somit keine ausreichenden Anhaltspunkte, diese komplexen Muster zu lernen oder als relevant einzustufen.
Ergebnis: Eine KI, die nur auf offensichtliche Merkmale trainiert wird, übersieht oft wichtige subtile Hinweise, die für eine frühzeitige Gefahrenwarnung entscheidend sind. Für eine effektivere Risikoerkennung müssen Trainingsdaten und Modelle erweitert werden, um auch komplexe Verhaltensmuster und Kontextinformationen angemessen zu erfassen und zu bewerten.