Авторы AI-2027 выпустили «План А»: притормозить сверхинтеллект до 2040-го

Авторы сценария AI-2027 выпустили продолжение — «План А» (AI-2040): публичность всех ИИ-исследований, режим взаимного ядерного сдерживания на вычислениях и договор США с Китаем к 2029 году, чтобы отложить сверхинтеллект до 2040-го.

Автор: Michael Kokin ·

В прошлом году сценарий AI-2027 напугал всех прогнозом, что ИИ приведёт человечество либо к вымиранию, либо к диктатуре. Теперь та же команда выпустила продолжение — «План А» (AI-2040), свою версию того, как всё-таки прийти к хорошему исходу.

Идея контринтуитивная. Вместо гонки «построить сверхинтеллект первым» авторы предлагают осознанно притормозить. Для начала все ИИ-исследования становятся публичными: десятки компаний по всему миру догоняют лидеров, а страны входят в режим ядерного сдерживания, перенесённого на вычислительные мощности (у авторов это mutually assured compute destruction).

Что предлагает «План А»

Что в итоге

Хороший финал тут возможен только если США и Китай реально договорятся притормозить вместе. Не договорятся — получаем тот самый антиутопичный AI-2027, который эта же команда уже описала.

Все сценарии — на ai-2040.com.