Bayessche Optimierung ist ein Verfahren zur effizienten Optimierung von teuren oder komplexen Funktionen, bei denen Auswertungen kostspielig sind.
Sie verwendet ein probabilistisches Modell, meist ein Gaußprozess, um die unbekannte Zielgröße abzuschätzen und gleichzeitig die Unsicherheit der Vorhersagen zu quantifizieren.
Die Unsicherheitsquantifizierung ist entscheidend, um eine Balance zwischen Exploration (Erkundung unbekannter Bereiche) und Exploitation (Nutzung bekannter guter Lösungen) zu erreichen.
Typische Akquisitionsfunktionen wie Expected Improvement (EI) oder Upper Confidence Bound (UCB) nutzen diese Unsicherheiten, um gezielt neue Punkte auszuwählen, die vielversprechend sind oder zur Reduktion der Unsicherheit beitragen.
Diese Methode wird häufig eingesetzt bei Hyperparameter-Optimierung, Robotik und Materialwissenschaften, wo die Evaluierung teuer oder zeitaufwendig ist.