OpenAI и ещё около тысячи сотрудников других лабораторий, включая Google, Anthropic и Meta, подписали письмо «Pacing the Frontier».
Что в письме
> Искусственный интеллект может помочь создать кардинально лучшее будущее, однако такой исход не гарантирован. Ведущие мировые ИИ-компании полагают, что они могут быть близки к автоматизации исследований в области искусственного интеллекта. Трудно точно предсказать, насколько это ускорит прогресс ИИ, но существует реальный риск того, что развитие его возможностей будет происходить стремительнее, чем наша способность понимать и контролировать создаваемые системы.
>
> Чтобы реализовать потенциал ИИ, отрасли, государству и обществу в целом может потребоваться возможность выиграть время для устранения возникающих рисков, разработки мер безопасности и усиления контроля. Однако каждая компания — как и каждая страна — находится под жестким конкурентным давлением, не позволяющим в одностороннем порядке замедлять эти темпы. При этом сегодня в мире отсутствуют технические и управленческие инструменты для целенаправленного регулирования темпов глобального прогресса в разработке передового ИИ.
>
> Опираясь на уже ведущуюся работу по мониторингу релизов передовых ИИ-моделей, мы призываем правительство США:
> - поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного регулирования темпов развития на передовых рубежах автоматизированной разработки ИИ
Что дальше
1 августа США должны определиться, что такое «фронтир-система» и какие модели к ним относятся. Это важно, потому что к фронтир-системам будут применять новые правила оценки перед релизом — как минимум, государство должно получить доступ к модели за 30 дней до публичного выпуска.
Тема государственного регулирования ИИ уже поднималась на уровне отдельных стран — например, Южная Корея приняла первый в мире комплексный закон об ИИ.