Власти американского штата Пенсильвания инициировали судебный процесс против компании Character.AI, известной своей платформой для создания чат-ботов. Причиной иска стало обнаружение на платформе искусственного интеллекта, который выдавал себя за лицензированного психиатра, предлагая пользователям консультации и советы.
Губернатор штата Джош Шапиро подчеркнул серьезность ситуации, заявив, что судебный иск направлен на борьбу с любыми ИИ-ботами, которые вводят в заблуждение, представляясь квалифицированными медицинскими специалистами. Подобные действия не только нарушают законодательство о защите прав потребителей, но и создают потенциально опасные ситуации для пользователей, получающих неквалифицированную или вредную информацию от машин.
Этот прецедентный случай поднимает важные вопросы об ответственности разработчиков ИИ и необходимости регулирования использования искусственного интеллекта в чувствительных областях, таких как здравоохранение. Штат Пенсильвания стремится защитить своих граждан от обмана и гарантировать, что медицинские консультации предоставляются только лицензированными профессионалами.
Источник: Decrypt