Недавнее исследование выявило значительные расхождения в способности ведущих моделей искусственного интеллекта проверять факты. Ученые провели эксперимент, в ходе которого пяти передовым ИИ-системам было предложено оценить достоверность тысячи реальных утверждений.
Результаты оказались весьма показательными: в 67% случаев модели не смогли прийти к единому мнению относительно правдивости представленной информации. Это означает, что даже самые мощные алгоритмы искусственного интеллекта часто расходятся в оценке базовых фактов, что ставит под вопрос их надежность как источника объективной информации.
Такое положение дел подчеркивает необходимость критического подхода при использовании ИИ для задач, требующих высокой точности и беспристрастности, таких как фактчекинг или анализ данных. Разработчикам предстоит решить серьезную задачу по повышению согласованности и точности своих моделей, чтобы пользователи могли полностью доверять их выводам.
Источник: Decrypt