Новое рецензируемое исследование, опубликованное в авторитетном медицинском журнале BMJ Open, выявило тревожную тенденцию: почти половина медицинских рекомендаций, предоставляемых ведущими чат-ботами на базе искусственного интеллекта, оказалась ошибочной или потенциально опасной. Аудит, охвативший ответы пяти крупных ИИ-систем на запросы, связанные со здоровьем, показал, что около 50% предложенных советов содержали неточности, а порой и полностью сфабрикованные ссылки на несуществующие источники.
Особую обеспокоенность вызывает то, что эти неверные рекомендации часто подаются с высокой степенью уверенности, что может ввести пользователей в заблуждение и заставить их доверять ложной информации. ИИ-системы, несмотря на свою способность генерировать связный и убедительный текст, пока не способны отличить факты от вымысла в такой критически важной области, как медицина.
Эксперты призывают к крайней осторожности при использовании искусственного интеллекта для получения медицинских консультаций, подчеркивая, что такие системы не могут заменить профессионального врача и требуют тщательной проверки всей предоставляемой информации. Пользователям следует помнить, что даже самый убедительный ответ от ИИ не является гарантией достоверности, особенно когда речь идет о собственном здоровье.
Источник: Decrypt