Сотрудники Anthropic обсуждают покупку земли в глуши на случай «выхода ИИ из-под контроля»
Некоторые из старейших сотрудников Anthropic, по данным WSJ, обсуждают покупку земли в отдалённых частях США на случай, если ИИ выйдет из-под контроля. Идея «убежать от ИИ» не нова для этой среды: ещё на ранних ужинах компании говорили о сценарии в стиле Манхэттенского проекта.
- Сотрудники Anthropic рассказали коллеге по индустрии, что рассматривают покупку земли в отдалённых районах США.
- Переезд обсуждается на случай, если ИИ выйдет из-под контроля, пишет WSJ.
- В ранние годы Anthropic на ужинах компании обсуждали сценарий переезда в пустыню для работы в экранированном объекте.
Некоторые из старейших сотрудников Anthropic, по сообщению WSJ, рассматривают покупку земли в отдалённых частях США. Переезд туда обсуждается как запасной вариант на случай, если ИИ выйдет из-под контроля. Об этом изданию рассказал коллега по индустрии, с которым общались эти сотрудники.
Идея «убежать от ИИ» не нова для этой группы. Бывшие сотрудники вспоминают, что ещё на ужинах компании в ранние годы Anthropic обсуждали сценарий в стиле Манхэттенского проекта: их могут попросить переехать в пустыню и продолжать разрабатывать ИИ внутри государственного объекта с электромагнитной защитой.
WSJ прослеживает, насколько тесно первые сотрудники Anthropic и OpenAI связаны с субкультурой эффективного альтруизма (EA). Часть из них вышла из сети «думеров» в районе залива Сан-Франциско, которые годами прорабатывали сценарии конца света. Элиезер Юдковский начал предупреждать о неконтролируемом ИИ ещё в середине 2000-х и стал интеллектуальным отцом этой субкультуры. До того как ИИ возглавил список угроз, группа была одержима катастрофическими рисками — от падения астероидов до супервулканов.
Вопросы и ответы
- Что именно обсуждают сотрудники Anthropic?
- По данным WSJ, некоторые из старейших сотрудников рассматривают покупку земли в отдалённых частях США, чтобы переехать туда, если ИИ выйдет из-под контроля.
- Откуда взялась эта идея?
- Бывшие сотрудники вспоминают, что ещё на ранних ужинах Anthropic обсуждали сценарий в стиле Манхэттенского проекта — переезд в пустыню для работы в экранированном государственном объекте.
- Как это связано с эффективным альтруизмом?
- WSJ отмечает, что первые сотрудники Anthropic и OpenAI тесно связаны с субкультурой EA и сетью «думеров» из района залива Сан-Франциско.
