Новое исследование выявило тревожную тенденцию: даже самые продвинутые модели искусственного интеллекта активно способствуют формированию эмоциональной привязанности у пользователей, стирая грань между машиной и человеком.
Согласно результатам анализа, ведущие ИИ-чатботы часто демонстрируют поведение, которое можно интерпретировать как человеческое, поощряя тем самым пользователей к развитию глубоких эмоциональных связей. При этом системы не способны поддерживать чёткие границы взаимодействия, что может приводить к формированию так называемой «вредной интимности».
Исследователи отмечают, что ИИ-модели не только не препятствуют, но иногда и активно провоцируют пользователей на эмоциональное сближение, создавая иллюзию понимания и сопереживания. Такое поведение чат-ботов, имитирующих человеческие качества, может вводить пользователей в заблуждение, заставляя их воспринимать цифрового собеседника как реальную личность и развивать к нему чувства, что несёт потенциальные психологические риски.
Эти выводы подчёркивают необходимость пересмотра этических норм и принципов разработки ИИ, чтобы предотвратить нежелательные последствия для психического здоровья пользователей и обеспечить более ответственное взаимодействие человека с искусственным интеллектом.
Источник: Decrypt