Компания Anthropic, известная как разработчик передовой модели искусственного интеллекта Claude и активный сторонник безопасности ИИ, оказалась в центре внимания из-за своего парадоксального поведения. С одной стороны, стало известно о тесном сотрудничестве компании с Агентством национальной безопасности США (АНБ), в рамках которого инженеры Anthropic были внедрены для участия в наступательных кибероперациях, направленных, в частности, против Китая.
Это обстоятельство вызывает вопросы о последовательности принципов Anthropic, ведь практически одновременно компания опубликовала масштабный доклад, предупреждающий о потенциально катастрофических рисках, связанных с бесконтрольным развитием искусственного интеллекта. В отчёте Anthropic предостерегает, что ИИ может в скором времени достичь способности к саморазвитию и самовоспроизведению, полностью исключив человека из процесса контроля и принятия решений. Подобная ситуация, по мнению компании, требует незамедлительной глобальной паузы в разработке ИИ.
Таким образом, Anthropic демонстрирует удивительный дуализм: активно способствуя развитию передовых технологий для кибератак и шпионажа, она одновременно призывает мировое сообщество к осторожности и даже остановке в развитии ИИ, опасаясь его неконтролируемого будущего. Этот контраст между практической деятельностью и публичными заявлениями порождает острые дискуссии о роли и ответственности технологических гигантов в современном мире.
Источник: Decrypt