Разработчики ChatGPT из OpenAI оказались перед сложным выбором: стоит ли обращаться в правоохранительные органы из-за подозрительных сообщений пользователя, подозреваемого в стрельбе в Канаде. Инструменты мониторинга, отслеживающие злоупотребления в ChatGPT, выявили описания насилия с применением огнестрельного оружия, автором которых был Джесси Ван Рутселаар.
В настоящее время компания обсуждает, как реагировать на подобные случаи, чтобы с одной стороны, обеспечить безопасность, а с другой – не нарушать конфиденциальность пользователей.
Источник: TechCrunch