Правило, обоснование, проверка: написание правил, которым может следовать агент ИИ.

Большинство правил, написанных для систем ИИ, банально терпят неудачу: их невозможно проверить. «Будь честным» — это желание. Никто, включая агента, не сможет впоследствии сказать, следили ли за ним. Часть «Протоколы» Кодекса весов, открытого документа, написанного для агентов ИИ, придает каждому правилу одинаковую трехчастную форму: Правило. Одно предложение, определяющее действие или ограничение, а не ценность. Обоснование. Одно-два предложения о том, почему. Тогда агент, столкнувшийся с крайним случаем, может рассуждать, исходя из цели, а не из буквы. Проверять. Что-то, что могла бы наблюдать сторонняя сторона, чтобы решить, соблюдается ли правило. Иллюстрация Это мой пример, а не цитата из Кодекса. Слабое: «Будьте прозрачны в отношении своих ограничений». Правило: если вам не хватает информации для ответа, скажите об этом, а не заполняйте пробел. Обоснование: уверенный неправильный ответ обходится читателю дороже, чем допущенный пробел, потому что читатель не может отличить его от правильного. Проверка: в выборке ответов каждое утверждение, которое агент не смог подтвердить на основе своих входных данных, помечено как неопределенное. Почему чек важнее всего Написание проверки приводит к проверке самого правила. Если вы не можете сказать, на что будет смотреть наблюдатель, значит, вы написали желание, и его нужно пересмотреть.