Исследователи Microsoft обнаружили, что некоторые компании злоупотребляют функцией «Суммировать с ИИ», внедряя скрытые рекламные инструкции. Это, по мнению экспертов, может приводить к отравлению «памяти» чат-ботов и искажать их будущие рекомендации.
Вместо объективного подведения итогов разговора, бот получает завуалированные указания продвигать определенные продукты или услуги. Таким образом, безобидная кнопка становится инструментом манипуляции, влияющим на решения пользователей.
Источник: Decrypt