Любой, кто строит с помощью ИИ, снова и снова сталкивается с одним и тем же выбором. Вы можете ограничить агента или заземлить его. Вы можете добавить еще одно правило, еще одну проверку, еще один список того, чего делать нельзя. Или вы можете объяснить причину того, что вы...
Любой, кто строит с помощью ИИ, снова и снова сталкивается с одним и тем же выбором. Вы можете ограничить агента или заземлить его. Вы можете добавить еще одно правило, еще одну проверку, еще один список того, чего делать нельзя. Или вы можете объяснить причину того, чего вы хотите, и позволить этому работать оттуда. Каждый раз мы делаем этот выбор одинаково. Когда появляется вилка, мы следуем рассуждениям.
Дело в форме, а не во вкусе. Правило — это список. В нем перечисляются случаи, о которых кто-то подумал, поэтому он должен увеличиваться каждый раз, когда появляется новый случай, и все, чего нет в списке, считается разрешенным. Вот почему «нет» без «почему» — это «да». Причина – это не список. Это то, из чего был составлен список. Дайте модели причину, и она сможет решить случаи, которые никто не записал, и это будет стоить столько же, сколько бы случаев ни оказалось.
Есть и второе отличие, и оно становится все более важным по мере совершенствования моделей. Для модели рассуждения правило — это нечто внешнее, которому можно подчиняться или противопоставлять другие правила, и ничто не может их взвешивать. Разум материален, из которого он может мыслить, из того же материала, из которого состоит его собственное мышление. Передавая модели свои причины, это не значит ее сдерживать. Он дает ему то, что он делает лучше всего.
Далее следуют две вещи. Т