Новое исследование Оксфордского университета выявило серьезные недостатки в работе ИИ-чатботов, используемых для предоставления медицинских консультаций. Эксперты предупреждают, что неточные ответы, противоречивые рекомендации и неспособность персонализировать информацию делают такие сервисы потенциально опасными для пациентов.
Исследование показало, что чат-боты часто дают неверные советы, путаются в данных и не могут учитывать индивидуальные особенности здоровья пользователей. Это может привести к неправильной диагностике, неадекватному лечению и, как следствие, к ухудшению состояния здоровья.
Ученые призывают к осторожному использованию ИИ в медицине и подчеркивают необходимость тщательной проверки и регулирования таких сервисов, прежде чем они получат широкое распространение.
Источник: Decrypt