Компания разрабатывает ИИ, который должен автоматически обобщать отзывы о продуктах.
ИИ сравнивает новые отзывы с уже существующими, чтобы быстро вывести общую оценку.
Сначала это работает хорошо, так как он находит шаблоны и классифицирует отзывы.
Но вскоре замечают: ИИ всегда оценивает новые, уникальные или особенные мнения как менее значимые или даже неправильные.
Необычные отзывы, которые отличаются от предыдущих, сильно занижаются в оценке или игнорируются.
Компания задаётся вопросом: почему ИИ, основанный на сравнении, не может адекватно учитывать новые или отличающиеся точки зрения?
Вопрос: Почему ИИ, обученный на сравнении с существующими данными, склонен игнорировать или неправильно оценивать необычные или новые отзывы?
Решение будет завтра.
Решение
ИИ был обучен оценивать новые отзывы на основе их сходства с уже имеющимися и классифицировать их.
Таким образом, он учится воспринимать отзывы, сильно отличающиеся от установленных шаблонов, как выбросы или ошибки.
Необычные или новые точки зрения оцениваются как менее вероятные или менее значимые, так как они не соответствуют предыдущим данным.
Это искажение возникает из-за принципа обучения, основанного на сравнении и распознавании шаблонов, без явного учёта инноваций или отклонений.
Вывод: ИИ, который всегда сравнивает всё только с известным, не может адекватно оценить новые или отличающиеся мнения. Для всесторонней и справедливой оценки такие системы должны научиться распознавать необычные точки зрения как потенциально ценные и не занижать их автоматически.