Байесовская оптимизация — это метод эффективной оптимизации дорогих или сложных функций, для которых вычисления затратны.
Она использует вероятностную модель, чаще всего гауссовский процесс, чтобы оценить неизвестную целевую величину и одновременно количественно оценить неопределённость предсказаний.
Квантование неопределённости является ключевым для достижения баланса между исследованием (изучением неизвестных областей) и использованием (применением известных хороших решений).
Типичные функции приобретения, такие как Expected Improvement (EI) или Upper Confidence Bound (UCB), используют эту неопределённость для целенаправленного выбора новых точек, которые являются перспективными или способствуют снижению неопределённости.
Этот метод часто применяется при оптимизации гиперпараметров, в робототехнике и материаловедении, где оценка дорогостоящая или времязатратная.