Так это видит Демис Хассабис. Во вторник глава Google DeepMind опубликовал манифест. AGI, по его оценке, появится через несколько лет, и риски для человечества он больше не называет гипотетическими.
Кибератаки с помощью ИИ уже случились. В июне Amazon заставила Fable 5 искать дыры в чужом коде, и в одном случае модель написала рабочий эксплойт. Для Хассабиса это предупредительные выстрелы. Через полтора года, по его прогнозу, помощь с био- и ядерным оружием может оказаться внутри открытых моделей, которые никаким правительством не отозвать.
В ответ он предлагает организацию по образцу FINRA, биржевого регулятора, которого содержит сама индустрия, а государство надзирает. Она проверяла бы топовые модели на киберугрозы, биориски и способность обманывать. Сначала добровольно, лаба присылает модель за 30 дней до релиза. Потом без проверки на американский рынок не выйдет ни одна фронтир-модель, из любой страны, открытая или закрытая.
Индустрия ответила редким единодушием. Маск назвал фреймворк «хорошей отправной точкой для обсуждения», Наделла написал, что цель в том, «чтобы ни один релиз модели не сломал мир», сооснователь Anthropic Джек Кларк назвал документ «отличным». Альтман, Дорси и Эштон Катчер отметились одобрением под постом. Цукерберг, по данным Axios, готовит свой манифест.
Когда конкуренты, которые обычно судятся и переманивают друг у друга инженеров, хором хвалят новые правила, спроси, кому эти правила выгодны. У больших лаб есть юристы и связи с Вашингтоном, чтобы пройти любую сертификацию. Стартапам и опенсорсу порог вырастет. Критики называют это регуляторным захватом.
И вторая дыра. Проверка закрывает только вход на рынок США. Китайскую модель, которой этот рынок не нужен, план Хассабиса не тормозит вообще. Он сам называет гонку «крайне интенсивной и многослойной» и зовёт к международной координации, но механизма принуждения у его схемы нет.
Запустить организацию Хассабис хочет до конца года, что после трёх недель согласований по одному экспортному ограничению звучит смело. Пока выходит, что комитет прикроет американский рынок, а человечество идёт следующим пунктом.