Ученые обнаружили новую критическую уязвимость в системах искусственного интеллекта, работающих с аудиоданными. Согласно результатам недавнего исследования, существует возможность внедрять скрытые аудиосигналы в обычные звуковые дорожки, которые остаются совершенно неслышимыми для человеческого уха, но при этом способны незаметно перехватывать контроль над поведением ИИ-моделей.
Эта новаторская техника позволяет злоумышленникам фактически «командовать» системами ИИ, такими как голосовые помощники, системы распознавания речи или даже автономные транспортные средства, без какого-либо визуального или акустического предупреждения для пользователя или оператора. Представьте ситуацию, когда ваш голосовой ассистент выполняет команды, которые вы никогда не произносили, или система безопасности деактивируется под воздействием неслышимого звука.
Исследователи продемонстрировали, что эти скрытые сигналы могут быть встроены в различные аудиоклипы, заставляя ИИ-модели интерпретировать их как совершенно другие, заданные команды или данные. Это открывает двери для нового класса кибератак, где цифровые помощники и другие аудио-ориентированные ИИ-системы могут быть скомпрометированы незаметным способом.
Данное открытие подчеркивает острую необходимость в разработке более совершенных методов защиты для искусственного интеллекта, особенно в сферах, где безопасность и конфиденциальность зависят от надежного взаимодействия с голосовыми интерфейсами. Ученые призывают к усилению внимания к потенциальным акустическим уязвимостям в системах машинного обучения, чтобы предотвратить их использование в злонамеренных целях.
Источник: Decrypt