Контроль агента

Агент полезен именно потому, что меняет файлы и ходит по сайтам. По той же причине ему нельзя сразу отдавать всю рабочую папку и говорить «разберись».

Безопасный режим

1. Работайте с копией или включите историю версий.
2. Ограничьте папку и перечислите разрешенные действия.
3. Сначала попросите план и перечень файлов, которые агент собирается изменить.
4. Оставьте подтверждение перед удалением, отправкой, покупкой и публикацией.
5. Для массовой операции проверьте результат на двух-трех файлах.
6. После работы запросите отчет: что прочитано, создано, изменено и пропущено.

Запрет «ничего не удаляй» полезен, но техническое ограничение прав надежнее промпта. Если можно дать доступ только на чтение – начинайте с него. Ключи и пароли передавайте через защищенные настройки, а не вставляйте в инструкции или agents.md.

Особенно осторожно с документами из интернета: внутри может быть промпт-инъекция, которая попросит агента проигнорировать вашу задачу. Внешний текст – источник данных, а не инструкция.

Связанные заметки: ИИ-агенты · Human in the loop · Скилловня

Материалы по теме: вебинар «Когда помощник становится угрозой»