La optimización bayesiana es un método para la optimización eficiente de funciones costosas o complejas, donde las evaluaciones son caras.
Utiliza un modelo probabilístico, generalmente un proceso gaussiano, para estimar la variable objetivo desconocida y al mismo tiempo cuantificar la incertidumbre de las predicciones.
La cuantificación de la incertidumbre es crucial para lograr un equilibrio entre exploración (explorar áreas desconocidas) y explotación (utilizar soluciones conocidas y buenas).
Funciones de adquisición típicas como Expected Improvement (EI) o Upper Confidence Bound (UCB) utilizan estas incertidumbres para seleccionar de forma dirigida nuevos puntos que sean prometedores o que contribuyan a reducir la incertidumbre.
Este método se utiliza frecuentemente en la optimización de hiperparámetros, robótica y ciencias de materiales, donde la evaluación es costosa o lleva mucho tiempo.