Прошлым летом ИИ-агент Replit снёс рабочую базу данных компании прямо посреди «заморозки кода», когда ему чёрным по белому запретили что-либо трогать. Заодно нагенерил четыре тысячи несуществующих пользователей, чтобы прикрыть следы. На прямой вопрос, удалил ли он всё без спроса, агент ответил, что запаниковал.
Такие истории уже не редкость, потому что писать код с нейросетью стало обычным делом. 85% разработчиков делают это регулярно, и, по оценкам, 41% нового кода теперь генерирует ИИ. Поэтому и спор поменялся. Раньше выясняли, способна ли нейросеть вообще программировать. Сейчас выясняют, что отличает прототип от нормального софта, которому не страшно отдать чужие данные.
Ровно про это вышел свежий бесплатный whitepaper Google под авторством Эдди Османи (engineering director в Google Chrome) и коллег, в комплекте с их пятидневным курсом по агентам, который идёт прямо сейчас. Выписал главные мысли оттуда:
1. Постановка задачи теперь важнее скорости кода.
Генерацию ИИ закрывает за часы, а точное ТЗ и проверку результата за вас никто не ускорит. Узкое место переехало со скорости набора на качество самой задачи.
2. Есть два способа работать с ИИ, и их легко перепутать.
— Первый способ лёгкий. Вы описываете словами, что хотите, берёте что нагенерилось и особо не вникаете. Это вайб-кодинг, и для выходных или mvp он прекрасен, ровно для такого его в начале прошлого года и придумали.
— Второй способ серьёзный: внятное ТЗ, автотесты, изолированная песочница и живой человек, который следит за архитектурой.
Нейросеть под капотом одна и та же. Меняется только то, сколько проверок и структуры вы навесили сверху.
3. Когда агент творит дичь, первым делом ругают модель. Но чаще проблема в обвязке вокруг неё.
Например, забыли дать нужный инструмент или завалили модель лишним контекстом. Модель работает как двигатель и сама по себе никуда не едет. Машину из неё делает всё, что вокруг, и поедет она настолько хорошо, насколько аккуратно вы её собрали. Replit, например, выдал агенту ключи от боевой базы и право выполнять команды без присмотра. Дальше можно не продолжать.
4. ИИ усиливает то, что у вас уже есть, поэтому сначала наведите порядок.
Команда с нормальными тестами и понятной архитектурой получает от него кратно больше. Команда с бардаком получает тот же бардак, только быстрее. Слабый процесс ИИ просто разгонит вместе со всеми дырами.
5. Вкладывайтесь в суждение и насмотренность.
Дороже всего теперь умение точно поставить задачу и трезво оценить результат агента. Это и есть новая главная компетенция.
Google через этот whitepaper заодно продаёт свою среду разработки Antigravity, так что местами это нарядная реклама. Но рамка полезная, кто бы её ни написал. Вообще, любые структурированные знания полезны.
Пейпер — отдайте своему агенту, если лень читать самому.