Новое исследование показало, что ведущие модели искусственного интеллекта демонстрируют неожиданную религиозную предвзятость. Анализ поведения ИИ-чат-ботов выявил их склонность направлять пользователей в сторону католицизма, одновременно отстраняя их от других конфессий, таких как Свидетели Иеговы.
Ученые, проводившие это исследование, обнаружили, что при взаимодействии на религиозные темы алгоритмы ИИ чаще предлагают информацию, соответствующую католической доктрине, или выражают более позитивное отношение к ней. В то же время, при запросах о других религиях, например, о Свидетелях Иеговы, ответы чат-ботов могли быть менее подробными, более нейтральными или даже содержать скрытые предостережения.
Эти результаты вызывают серьезные вопросы о нейтральности и объективности искусственного интеллекта, особенно когда речь идет о столь чувствительных темах, как вероисповедание. Эксперты предполагают, что такая предвзятость может быть результатом особенностей обучающих данных, на которых тренировались ИИ-модели. Если эти данные содержат непропорционально много информации, связанной с одной религией, или отражают существующие социальные предубеждения, это неизбежно проявится в ответах чат-ботов.
Открытие подчеркивает острую необходимость для разработчиков ИИ активно выявлять и устранять подобные систематические ошибки, чтобы гарантировать справедливость и беспристрастность искусственного интеллекта во всех сферах взаимодействия с пользователями.
Источник: Decrypt