Беспилотный автомобиль, который внезапно останавливается
Компания тестирует новый беспилотный автомобиль.
ИИ обучен на миллионах изображений дорог.
Во время испытаний автомобиль едет очень надёжно.
Он легко распознаёт светофоры, дорожные знаки и пешеходов.
Но однажды происходит странное:
На пустой дороге машина внезапно резко тормозит и останавливается.
Пассажиры не видят никаких препятствий.
Позже выясняется,
что причиной стал безобидный предмет у обочины.
Вопрос:
Почему ИИ в беспилотном автомобиле может реагировать на совершенно безвредные предметы?
Решение будет доступно завтра.
Решение
ИИ оценивает ситуацию на основе шаблонов из обучающих данных.
Если объект напоминает что-то опасное,
система может реагировать из осторожности.
Например, кусок картона на дороге
под определённым углом может выглядеть как препятствие.
Человек часто сразу понимает, что опасности нет.
ИИ же предпочитает быть слишком осторожным.
Итог:
Беспилотные системы специально делают очень осторожными —
потому что ложная тревога безопаснее,
чем пропущенное препятствие.