Диалектический кейс за искусственный интеллект для прогресса цивилизации
Технический прогресс обесценивает прежние методы выбраковывания иррациональных, саморазрушительных организаций общества: любое безумие и агрессия как в эпоху лошадиной тяги и стали, так и в эпоху пара и пороха, в итоге, на цивилизационной дистанции отфильтровывались в конкуренции с более рационально организованными обществами — с лучшим балансом коллективного к авторитарному вкладу в коллективно-значимые решения. Технические ограничения методов уничтожения гарантировали, таким образом, пассивный прогресс цивилизации в целом: чрезмерная агрессия вела к самоуничтожению быстрее, чем могла стать всеобщей угрозой. На ошибках чужой несдержанности учились следующие поколения — и человечество постепенно вырабатывало инструменты коллективного участия во внутренней политике и сдерживания в международной. Подобный, пассивный метод прогресса цивилизации, был пусть и медленным и болезненным (видимым на дистанции в сотни и тысячи лет, и сопровождающийся всеми возможными деструктивными ужасами) — но гарантированным.Однако, благодаря техническому прогрессу, новые методы уничтожения достигли потенциала глобального и практически моментального уничтожения. Это не означает, что пассивный метод прогресса — поиск верного ответа исчерпанием всех неверных, через войны и ошибки, перестал работать. Он просто перестал быть гарантированным теперь, когда всё больше вариантов, когда фатальные для целой человеческой цивилизации ошибки стали технически возможными. Читать далее