Компания разрабатывает ИИ, который используется для автоматического анализа изображений в медицинской диагностике.
ИИ должен проверять рентгеновские снимки на наличие отклонений и различать здоровые и больные ткани.
Разработчики обучают ИИ на четко маркированных изображениях, которые либо полностью здоровы, либо явно больны.
Сначала ИИ работает очень надежно в однозначных случаях.
Но вскоре замечают: на изображениях с неясными, слабо выраженными или смешанными признаками ИИ часто принимает неправильные решения.
ИИ классифицирует многие из этих изображений строго как здоровые или больные, не допуская промежуточных вариантов.
Компания задается вопросом: почему ИИ, обученный на однозначных категориях, не может давать дифференцированные оценки в нечетких или сложных случаях?
Вопрос: Почему ИИ, обученный исключительно на четких бинарных примерах, склонен в применении принимать только черно-белые решения и не распознавать промежуточные стадии или неопределенности?
Решение будет завтра.
Решение
ИИ был обучен на наборе данных, который содержит только четкие бинарные классы — либо здоровые, либо больные.
В результате модель учится строго относить шаблоны к этим двум категориям и не отображать промежуточные стадии или неопределенности.
На практике медицинские изображения часто бывают сложными и содержат смешанные формы или нечеткие переходы, которые нельзя просто разделить на два класса.
Поскольку ИИ не видел примеров таких серых зон во время обучения, он не может адекватно их распознавать или отображать.
Это приводит к тому, что в неуверенных случаях он всегда принимает однозначное решение, хотя более разумным было бы дать дифференцированную оценку или указать на неопределенность.
Итог: ИИ, который знает только бинарные тренировочные данные, не способен адекватно обрабатывать сложные, многоступенчатые или неопределенные случаи. Для реалистичных приложений тренировочные данные должны содержать разнообразные, дифференцированные примеры, а модель должна быть разработана так, чтобы распознавать и сообщать об неопределенностях и серых зонах.