В 2023 году сотни видных деятелей в области искусственного интеллекта подписали открытое письмо, предупреждающее о серьезной угрозе для человечества. Но компании и страны все равно спешат создать машины умнее человека. И мир совершенно не готов к тому, что произойдет дальше.
Несколько десятилетий двое специалистов, подписавших то письмо, — Элиезер Юдковский и Нейт Соарес — изучали, как сверхинтеллект будет мыслить и вести себя. Их исследования показывают: конфликт продвинутых ИИ-моделей и человечества неизбежен. И нам не победить. Как и зачем искусственный сверхинтеллект уничтожит наш вид? Что необходимо сделать человечеству для выживания? Авторы подробно, доступно и образно обосновывают свою точку зрения и призывают каждого человека на планете задуматься об экзистенциальной угрозе, нависшей над всеми нами. Пока еще не поздно.