Сенатор Сандерс предложил бессрочно запретить сверхинтеллект
Сенатор Берни Сандерс и конгрессмен Грег Касар 23 сентября внесли законопроект о бессрочном запрете разработки и использования искусственного сверхинтеллекта. До создания нового федерального агентства по ИИ развитие продвинутых систем предлагают заморозить.
- Законопроект Ban Artificial Superintelligence Act внесли 23 сентября сенатор Берни Сандерс и конгрессмен Грег Касар.
- Документ предлагает бессрочный запрет сверхинтеллекта и немедленную заморозку продвинутых ИИ до появления правил безопасности.
- Нарушителям грозит роспуск компаний и до 20 лет тюрьмы — как за незаконную разработку ядерного оружия.
Сенатор Берни Сандерс и конгрессмен Грег Касар 23 сентября представили законопроект Ban Artificial Superintelligence Act. Он предлагает бессрочно запретить разработку и использование искусственного сверхинтеллекта, а также немедленно заморозить создание продвинутых ИИ-систем до тех пор, пока новое федеральное агентство не установит чёткие правила безопасности.
По словам Сандерса, современные ИИ-модели уже способны взламывать компьютерные системы, создавать новые виды вирусов и самостоятельно строить новые ИИ. При этом компании вкладывают в технологию сотни миллиардов долларов, несмотря на известные риски. Сандерс называет ИИ экзистенциальной угрозой для человечества и заявляет, что несколько технологических миллиардеров не должны писать правила для всех.
Касар предупреждает, что сверхинтеллект может убить бесчисленное множество людей, тогда как Дональд Трамп хочет ускорить его разработку.
Новое агентство и наказания
Законопроект также предусматривает создание нового федерального агентства по ИИ на уровне кабинета министров. Компании, нарушившие закон, могут принудительно распустить. Для физических лиц предусмотрено наказание вплоть до 20 лет тюрьмы — сопоставимо с наказанием за незаконную разработку ядерного оружия.
Кроме того, документ призывает к международным соглашениям, которые предотвратили бы разработку сверхинтеллекта по всему миру. Ранее эксперты как в США, так и в Китае выдвигали похожие инициативы по регулированию ИИ.
Для профиТехнические детали: архитектура, цифры, ссылки
Законопроект Ban Artificial Superintelligence Act вносят сенатор Берни Сандерс и конгрессмен Грег Касар. Ключевые положения:
- бессрочный запрет на разработку и использование искусственного сверхинтеллекта;
- немедленная заморозка разработки продвинутых ИИ-систем до введения правил безопасности новым федеральным агентством;
- создание федерального агентства по ИИ на уровне кабинета министров;
- санкции для компаний — вплоть до принудительного роспуска;
- для физических лиц — до 20 лет лишения свободы, что сопоставимо с наказанием за незаконную разработку ядерного оружия;
- продвижение международных соглашений против разработки сверхинтеллекта.
Источник: The Decoder.
Вопросы и ответы
- Что предлагает законопроект Сандерса и Касара?
- Бессрочный запрет сверхинтеллекта, заморозку продвинутых ИИ до появления правил безопасности и создание федерального агентства по ИИ.
- Какое наказание предусмотрено за нарушение?
- Компаниям грозит принудительный роспуск, физическим лицам — до 20 лет тюрьмы.
- Когда внесли законопроект?
- 23 сентября.
