Компания OpenAI анонсировала запуск новой функции под названием «Режим блокировки» (Lockdown Mode) для своего популярного чат-бота ChatGPT. Эта инициатива направлена на существенное повышение уровня безопасности и конфиденциальности пользовательских данных, особенно в корпоративной среде.
Основная задача «Режима блокировки» — предотвратить так называемые атаки типа «инъекция подсказок» (prompt injection). Эти атаки позволяют злоумышленникам манипулировать поведением ИИ, заставляя его выдавать или обрабатывать информацию, которая не должна быть доступна, потенциально раскрывая конфиденциальные сведения.
Важно отметить, что, по заявлению разработчиков, даже с активированным «Режимом блокировки» ChatGPT может сохранять некоторую уязвимость перед изощрёнными инъекциями подсказок. Это означает, что новая функция не является панацеей, полностью исключающей все риски.
Тем не менее, главная цель внедрения этого режима — значительно сократить вероятность того, что чувствительные или конфиденциальные данные будут непреднамеренно переданы или раскрыты в процессе взаимодействия с чат-ботом. Это важный шаг для укрепления доверия пользователей и повышения безопасности при работе с моделями искусственного интеллекта.
Источник: TechCrunch