[Перевод] ИИ, возможно, способен уничтожить человечество. Как людям вообще это осмыслить?

6 окт 2026

Он может организовать атаку с применением биологического оружия или развязать глобальную войну дронов. Может привести в действие ядерную бомбу. А может разрушить человеческое общество более постепенно, сосредоточив в своих руках все экономические ресурсы мира и лишив нас еды, жилья или лекарств.Именно такие мрачные мысли сегодня возникают вокруг искусственного интеллекта, технологии, которая уже стала огромным достижением человечества, но которая, как опасаются некоторые, потенциально способна полностью нас уничтожить.В сентябре подобные тревоги попали в заголовки мировых СМИ после того, как исследователь Anthropic ушёл из индустрии, объяснив своё решение опасениями, что его лаборатория и другие подобные компании создают сверхразумные машины, которые люди не смогут контролировать.Потенциальные угрозы, связанные с ИИ, вполне объяснимо пугают. Но современный мир изобилует множеством экзистенциальных рисков. Человечеству также грозит гибель из‑за астероидов, пандемий, термоядерной войны, изменения климата, гигантских выбросов раскалённого вещества с Солнца, экологического коллапса и внезапного наступления ледникового периода.Проблема, говорят учёные и специалисты по государственной политике, заключается не столько в самих угрозах, среди которых ИИ лишь самая новая, сколько во врождённой человеческой неспособности правильно оценивать их масштаб и соотношение.«Мы терпимо относимся к рискам, к которым привыкли, но боимся новых», — сказал Джеймс К. Хэммитт, директор Гарвардского центра анализа рисков. Мы гораздо чаще ездим на автомобилях, чем летаем на самолётах, отметил он, поэтому «авиаперелёты воспринимаются как нечто более опасное по сравнению с автомобильным транспортом, хотя на самом деле это не так». Искусственный интеллект, добавил он, «очевидно, плохо понятен и не воспринимается нами как нечто находящееся под нашим контролем, поэтому вызывает огромную общественную тревогу». Читать далее