Флорида требует через суд запретить ChatGPT общаться с детьми

Генеральный прокурор Флориды James Uthmeier подал в суд ходатайство о временном судебном запрете против OpenAI. Он требует запретить компании наделять ChatGPT человекоподобными чертами и предоставлять доступ к чат-боту несовершеннолетним. «Перестаньте называть это безопасным. Перестаньте притворяться, что это человек. Перестаньте продавать это детям», — заявил Uthmeier.

Флорида уже подавала иск против OpenAI в июне. Тогда власти утверждали, что ChatGPT давал информацию массовым стрелкам, выдавал инструкции по самоповреждению и вызывал привыкание у молодых пользователей. Новое ходатайство обвиняет OpenAI в том, что компания использует местоимения первого лица и имитацию эмоций, чтобы создать иллюзию доверительной дружбы — ради удержания пользователей и сбора данных для обучения.

Ходатайство также требует запретить OpenAI разрабатывать новые модели без проверки безопасности, одобренной независимыми сторонами.

Недавно OpenAI внедрила родительский контроль для подростков и пообещала дополнительные меры безопасности после гибели подростка. Однако, по мнению Флориды, этого недостаточно. Представитель OpenAI Дрю Пусатери сообщил The Verge, что компания приостановила обучение «самых мощных моделей» и хочет совместно с Флоридой разработать отраслевые правила в сфере ИИ. Суд пока не вынес решения по ходатайству.