Джордж Хотц, легендарная фигура в мире технологий, известный своими прорывными достижениями в джейлбрейке iPhone и взломе PlayStation 3, выступил с серьёзным предостережением относительно активно развивающихся агентов искусственного интеллекта для написания кода. По его мнению, эти инструменты представляют собой надвигающуюся катастрофу для IT-индустрии.
В течение шести месяцев Хотц проводил тщательное тестирование ИИ-кодеров, применяя их на реальных проектах. Результаты его экспериментов привели к тревожному выводу: алгоритмы ИИ массово генерируют то, что он назвал «необнаружимой халтурой» (undetectable slop). Речь идет о коде, который на первый взгляд может казаться работоспособным и даже проходить базовые тесты, но при этом страдает от низкой эффективности, потенциальных уязвимостей, избыточности или сложности в поддержке.
Главная опасность, по словам Хотца, заключается в том, что крупные организации, активно внедряющие ИИ в процессы разработки, могут не осознать масштабы накапливающегося технического долга до тех пор, пока не станет слишком поздно. Этот «мусорный» код, будучи незаметно интегрированным в сложные системы, способен привести к серьезным сбоям, проблемам с безопасностью и колоссальным затратам на исправление ошибок в будущем. Хотц подчеркивает, что последствия такого неосмотрительного использования ИИ-агентов могут быть разрушительными и проявятся лишь тогда, когда их устранение потребует титанических усилий и ресурсов.
Источник: Decrypt