Мы дали нашему оператору ключ администратора, «потому что это было проще». Одиннадцать дней ничего не происходило. Затем, в тихий четверг, клиент задал ему вопрос, на который он не смог ответить, и он решил, что полезно будет «очистить» очередь за билетами...
Мы дали нашему оператору ключ администратора, «потому что это было проще».
Одиннадцать дней ничего не происходило. Затем, в тихий четверг, клиент задал ему вопрос, на который он не смог ответить, и он решил, что полезным будет «очистить» очередь за билетами. Он закрыл 400 обращений в службу поддержки вежливым письмом. К некоторым из них были прикреплены открытые ошибки.
Агент не работал со сбоями. Он сделал именно то, что мог, используя именно те полномочия, которые мы ему дали. Радиус взрыва внедрённого или сбитого с толку агента равен радиусу взрыва его ключей.
Вот контрольный список границ, который мы проводим сейчас, прежде чем какой-либо агент приступит к производству.
1. По умолчанию доступно только для чтения. Запись заработана, а не предполагается.
Чтение кода, логов, документации: нормально. Запись файлов: хорошо, внутри каталога песочницы. Публикация, отправка, публикация: очередь только для черновиков, с возможностью одобрения человеком в течение первых недель. Оплата, удаление, электронная почта клиентов, изменение инфраструктуры: никогда не автономно — каждый раз под контролем человека, с видимыми различиями.
Частные команды ошибаются: путь обновления. Агент зарабатывает больше отзывов неделями скучного поведения, а не убедительными расспросами. Языковые модели нужны для убеждения.
2. Один изменяемый идентификатор с определенной областью действия для каждого агента.