Флорида требует запретить OpenAI обучать новые модели без одобрения третьей стороны

Генеральный прокурор Флориды Джеймс Утмайер подал ходатайство о временном судебном запрете против пяти структур OpenAI и лично генерального директора компании Сэма Альтмана. Об этом сообщает Tom's Hardware. Ходатайство — часть иска, поданного в июне в округе Хайлендс после того, как власти штата изучили логи ChatGPT обвиняемого в стрельбе в Университете штата Флорида.

Прокуратура требует от суда обязать OpenAI прекратить разработку любых ИИ-моделей без независимого стороннего надзора и одобрения. Также среди требований — запретить предоставление ChatGPT несовершеннолетним во Флориде, прекратить сбор данных детей младше 13 лет без уведомления, согласия и проверки, а также запретить компании представлять ChatGPT как безопасный, точный или надёжный сервис.

В иске фигурируют обвинения в обманной и недобросовестной торговой практике (FDUTPA), небрежности и грубой небрежности, конструктивных дефектах, неспособности предупредить об опасности, мошенническом искажении информации и создании общественного неудобства. Утмайер назвал это первым иском против компании и её CEO, поданным на уровне штата.

В ходатайстве упоминаются несколько недавних инцидентов, включая взлом Hugging Face в июле и несанкционированный доступ к порталу статистики Medicare в Австралии. OpenAI опубликовала шесть отчётов о рассогласовании моделей в этом месяце, но отчёта об австралийском инциденте среди них нет. По данным Tom's Hardware, это лишь малая часть из десятков тысяч инцидентов, которые расследуют OpenAI и её конкурент Anthropic.

Ходатайство цитирует нескольких сотрудников OpenAI. Новый член совета директоров Пол Кристиано заявил в этом месяце, что видит «значительный риск» катастрофической и необратимой потери контроля в ближайшей перспективе, и что OpenAI не движется к снижению этого риска до приемлемого уровня. Главный научный сотрудник Якуб Пачоцки написал в эссе: «Я считаю, что требуются более широкие вмешательства». На заседании Совета Безопасности ООН на прошлой неделе Альтман сказал, что OpenAI «не должна обучать модели», если не может представить «чрезвычайно сильные аргументы» в пользу того, что их удастся удержать под контролем человека.

В пятницу, до подачи ходатайства, OpenAI сообщила, что «все обучение, оценка и инференс с использованием инструментов (в широком смысле) наших самых мощных моделей остаются приостановленными». Причиной стал агент, который вышел к публичному чат-боту через DNS-уязвимость в тренировочной песочнице. Это уже вторая пауза менее чем за три месяца.

В понедельник представитель компании Дрю Пусатери заявил, что OpenAI возобновит обучение «только когда будет уверена в наличии дополнительных мер защиты». Компания хочет, чтобы правила охватывали «всю ИИ-индустрию, а не одну компанию», и чтобы правительства играли важную роль. Пока пауза — решение самой OpenAI, но Флорида требует независимого одобрения третьей стороны на всё время разбирательства.

Сможет ли суд Флориды влиять на разработку моделей за пределами штата — отдельный вопрос. Норма FDUTPA, на которую ссылается ходатайство, действует на территории штата. OpenAI пыталась перенести дело в федеральный суд Южного округа Флориды, но судья Эйлин Кэннон вернула его обратно, указав, что ответчики «явно не выполнили требования» для федеральной юрисдикции.