Юристы, представляющие интересы бывшего высокопоставленного сотрудника Министерства внутренней безопасности США, принесли извинения после того, как в судебном документе обнаружились сфабрикованные цитаты. Причиной инцидента стало некорректное использование искусственного интеллекта Claude от компании Anthropic.
Адвокаты признались, что прибегли к помощи ИИ-консоли Claude для подготовки судебного иска. Однако в процессе работы нейросеть сгенерировала несуществующие цитаты, которые были включены в официальный документ, поданный в суд. Данное дело касается увольнений, произошедших во время администрации Дональда Трампа.
Этот случай вновь поднимает острые вопросы об этических нормах и надежности использования искусственного интеллекта в юридической практике. Несмотря на потенциал ИИ в автоматизации и ускорении рутинных задач, инцидент подчеркивает критическую необходимость тщательной проверки любой информации, сгенерированной алгоритмами, прежде чем она будет представлена в официальных документах.
Признание юристов и их извинения свидетельствуют о серьезности ситуации и растущем внимании к проблеме «галлюцинаций» ИИ, когда модели генерируют ложные, но правдоподобные данные.
Источник: Decrypt