Пентагон: чрезмерная опора на ИИ привела к удару по школе в Иране
Внутреннее расследование Пентагона показало, что удар по школе в иранском Минабе стал следствием череды предотвратимых ошибок, включая чрезмерную опору на ИИ-систему Maven Smart System. В результате удара 28 февраля погибли более 150 человек, в том числе не менее 123 детей.
- 28 февраля две ракеты Tomahawk поразили начальную школу Shajarah Tayyebeh в Минабе, погибли более 150 человек, включая 123 детей.
- Расследование Пентагона выявило устаревшие разведданные, сокращённые сроки и чрезмерную опору на ИИ-систему Maven Smart System.
- ООН заявила о разумных основаниях считать удары по Минабу и ещё один удар в тот же день военными преступлениями.
Внутреннее расследование Пентагона пришло к выводу, что чрезмерная опора на искусственный интеллект стала одной из причин удара по школе в иранском городе Минаб. Об этом сообщает Bloomberg со ссылкой на officials, участвовавших в проверке. 28 февраля две ракеты Tomahawk поразили здание начальной школы Shajarah Tayyebeh и прилегающую территорию. Погибли более 150 человек, включая не менее 123 детей.
По словам officials, удар стал результатом не одного катастрофического решения, а накопления мелких ошибок. Среди факторов они называют сжатые сроки финализации целей, пробелы в исходной разведке, сокращение персонала по защите гражданских и чрезмерную опору на ИИ-технологии. Администрация Трампа потребовала массированного авиаудара, и только за первые 24 часа было поражено более 1000 иранских целей.
Роль Maven Smart System
Внутри Центрального командования США (Centcom) часть персонала слишком полагалась на ИИ, встроенный в Maven Smart System, сообщили officials. Система разработана Palantir Technologies и объединяет более 150 источников данных для поддержки решений командования. Некоторые сотрудники Centcom ожидали, что Maven будет сигнализировать об устаревшей информации или несоответствиях в разведданных по потенциальным целям. Почему возникли такие ожидания, не уточняется.
Представитель Palantir заявил, что компания «не несёт ответственности за исходные данные и выявление разведывательных недостатков», и что нет доказательств вины её ПО в ударе по Минабу. Два человека, знакомых с контрактами компании для Пентагона, сказали, что ответственность за качество информации, поступающей в Maven, лежит на правительстве. После удара Palantir добавила в Maven новые функции, которые «перепроверяют исходные разведданные на предмет факторов, дисквалифицирующих цель, и отмечают несоответствия и неточности, которые мог пропустить человек». По словам источника, эта работа уже выявила некоторые аномалии.
Реакция ООН и Конгресса
На этой неделе миссия ООН по установлению фактов по Ирану заявила, что США «не выполнили обязательство сделать всё возможное для проверки» того, что школа была военной целью, и что это «выходит за рамки халатности». В четверг следователи ООН сообщили, что есть разумные основания считать удар по Минабу и ещё один удар США в тот же день военными преступлениями. Пентагон отказался комментировать доклад ООН.
12 марта более 120 демократов в Палате представителей США направили письмо министру обороны Питу Хегсету с вопросами об ударе по школе в Минабе и роли ИИ, включая Maven Smart System, в идентификации цели. Полный отчёт о расследовании Пентагона, начатом в марте, до сих пор не опубликован, хотя, по словам officials, он почти готов уже несколько месяцев.
Для профиТехнические детали: архитектура, цифры, ссылки
Maven Smart System от Palantir объединяет более 150 различных источников данных в единый набор информации для поддержки решений командования — от наведения на цель до управления и контроля. В Пентагоне систему сделали основой военной инфраструктуры за последний год. После удара по Минабу Palantir добавила в Maven функции повторной проверки разведданных для выявления факторов, дисквалифицирующих цель, и флагов о несоответствиях.
Расследование началось в марте под руководством адмирала Брэда Купера, главы Centcom. Отчёт почти завершён, но не опубликован. Ранее Bloomberg сообщал, что один аналитик заметил изменения на объекте ещё в 2019 году и оставил записи в системе, не подключённой к основной базе военной разведки, которая используется для наведения на цель.
Вопросы и ответы
- Сколько человек погибло при ударе по школе в Минабе?
- Более 150 человек, включая не менее 123 детей.
- Какую роль сыграл ИИ в ударе?
- Часть персонала Centcom чрезмерно полагалась на ИИ-систему Maven Smart System, ожидая, что она предупредит об устаревших данных или несоответствиях.
- Что говорит ООН об этом ударе?
- Миссия ООН заявила, что есть разумные основания считать удар по Минабу и ещё один удар США в тот же день военными преступлениями.
