Известный исследователь в области искусственного интеллекта Стюарт Рассел, выступающий в качестве единственного экспертного свидетеля Илона Маска по вопросам ИИ в судебном разбирательстве против OpenAI, выразил серьёзную обеспокоенность по поводу потенциальной «гонки вооружений» в разработке общего искусственного интеллекта (AGI).
Рассел, чья многолетняя карьера посвящена изучению и развитию ИИ, подчеркивает, что неконтролируемое соревнование между ведущими лабораториями за создание всё более мощных систем ИИ несёт в себе значительные риски. Он опасается сценария, при котором стремление к доминированию или коммерческой выгоде может отодвинуть на второй план вопросы безопасности и этики, ускоряя разработку AGI без должного контроля.
По мнению эксперта, такая гонка может привести к появлению систем, чьё поведение будет непредсказуемым или даже опасным для человечества. Он призывает к срочным мерам по предотвращению подобного развития событий, акцентируя внимание на необходимости международного сотрудничества и внедрения строгих протоколов безопасности.
В свете этих опасений, Стюарт Рассел настаивает на том, что правительствам по всему миру необходимо активно вмешиваться и регулировать деятельность передовых лабораторий, занимающихся разработкой ИИ. Он считает, что без государственного надзора и чётких правил существует высокий риск того, что погоня за суперинтеллектом выйдет из-под контроля, создав экзистенциальные угрозы.
Его показания в рамках судебного процесса, инициированного Илоном Маском против OpenAI, подчеркивают растущую тревогу в научном сообществе по поводу будущего ИИ и необходимости ответственного подхода к его развитию.
Источник: TechCrunch