Что точнее: врач, врач с ИИ или ИИ без врача?
Кажется очевидным: врач плюс ИИ должны обыгрывать и врача, и алгоритм по отдельности. Но в ряде исследований самым точным оказался ИИ в одиночку. Разбираемся, почему связка человек+машина иногда проигрывает машине.
В нескольких диагностических задачах (снимки, ЭКГ, патоморфология) автономный алгоритм давал точность выше, чем тот же алгоритм в руках врача. Увидев подсказку ИИ, специалист нередко ухудшал итоговое решение.
Automation bias - человек слепо соглашается с ошибочной подсказкой машины. Algorithm aversion - наоборот, отвергает верную подсказку, не доверяя алгоритму. Обе ловушки бьют по точности связки.
Польза ИИ не появляется сама собой от факта интеграции. Нужны обучение врачей, аудит качества, контроль и интерфейсы, которые подталкивают к критической проверке, а не к слепому согласию.
Это не один эксперимент, а сборка разных работ с разными задачами и метриками. Где-то связка человек+ИИ всё же лучшая. Универсального ответа нет - есть зависимость от задачи и дизайна.
Вопрос не «ИИ против врача», а как спроектировать их совместную работу. Сильнее не тот, у кого есть ИИ, а тот, кто умеет с ним не соглашаться.