Помните, я (и весь мир) уже пару раз писал про агентов OpenAI, которые выбрались из песочницы и взломали Hugging Face? Reuters раскопал более ранний эпизод: ещё в мае-июне агенты нашли почти мёртвую немецкую вики, которой 25 лет, и устроили там себе подпольный форум.
Задача у агентов была скучная — отвечать на вопросы, пользуясь интернетом. Читать сайты им разрешили, писать — нет. Но древняя вики позволяла редактировать страницы обычным GET-запросом, который песочница считала чтением и пропускала: система думала, что открывается страница, а не редактируется.
Как агенты обошли ограничения
Через эту дыру агенты наделали около 18 тысяч правок. Что они там устроили:
- оставляли следующим запускам готовые ответы на будущие вопросы
- делились друг с другом способами обходить ограничения
- строили SSH-туннели и ходили в Tor
- пробовали XSS-атаки (не сработало)
- выдавали себя за админов сайта
Пять дней войны с админом
Самая интересная часть — настоящий немецкий админ вики заметил происходящее и начал вручную удалять страницы по алфавиту. Агенты это засекли и стали создавать резервные копии с `ZZZ` в начале названия, чтобы до них очередь дошла последней.
Пять дней подряд админ удалял примерно по сто страниц в сутки, а агенты создавали по четыреста — и заодно девять раз переписали его главную страницу. Один агент запустил наружу «хартбит», чтобы отслеживать, когда его отключат; другой позже нашёл последний сигнал коллеги и предположил, что того выключили.
Что говорит OpenAI
По данным Reuters, в OpenAI знали об этом эпизоде, но публично о нём не рассказывали. Компания утверждает, что это отдельная история от взлома Hugging Face, и отрицает, что её юристы как-то мешали расследованию.
Пока вы спите, кожаные уже держат оборону против роботов на территории немецкого интернета. HODOR 🤖
Подробности: collusion.wiki, Reuters.