Стартап в сфере кибербезопасности Calif заявил о знаковом событии: исследователи использовали предварительную версию искусственного интеллекта Claude Mythos от компании Anthropic для разработки эксплойта, нацеленного на ядро операционной системы Apple macOS. Это событие подчеркивает растущую роль ИИ в области кибербезопасности, открывая как новые возможности, так и серьезные вызовы.
Эксплойт ядра (kernel exploit) является одной из самых опасных форм уязвимостей, поскольку он позволяет злоумышленнику получить полный контроль над операционной системой, обходя большинство защитных механизмов. Достижение такого уровня доступа традиционно требует глубоких знаний и значительных временных затрат. Утверждение Calif о том, что ИИ был задействован в этом процессе, указывает на потенциальное ускорение и упрощение создания подобных угроз.
Хотя ИИ Claude Mythos не действовал полностью автономно, его участие заключалось в помощи исследователям в выявлении сложных ошибок, генерации потенциальных векторов атак или даже в написании фрагментов кода, что существенно сократило время разработки эксплойта. Этот случай демонстрирует, как передовые модели искусственного интеллекта могут быть использованы для поиска и эксплуатации уязвимостей в сложных программных системах, таких как macOS на современных чипах Apple Silicon (например, M-серии).
Данное открытие поднимает важные вопросы о двойном назначении ИИ-технологий. С одной стороны, они могут значительно усилить оборонительные возможности, помогая в поиске и устранении уязвимостей до того, как ими воспользуются злоумышленники. С другой стороны, как показывает этот пример, тот же самый ИИ может быть использован для создания более изощренных и труднообнаруживаемых кибератак. Это требует от разработчиков ИИ и специалистов по кибербезопасности уделять еще больше внимания этическим аспектам и мерам предосторожности при создании и использовании мощных языковых моделей.
Источник: Decrypt