Традиционная разработка программного обеспечения отвечает на такие вопросы, как: Код компилируется? Соблюдает ли агент политику? Это проблемы с поведением. Поскольку агенты искусственного интеллекта становятся частью повседневных продуктов, инженерное дело будет все больше фокусироваться на проектировании,...
Традиционная разработка программного обеспечения отвечает на такие вопросы, как:
Код компилируется?
Возвращает ли API правильный ответ?
Пройдут ли тесты?
Инженерия искусственного интеллекта задает разные вопросы.
Соблюдает ли агент политику?
Ответственно ли он использует инструменты?
Правильно ли память влияет на поведение?
Оправляется ли он от двусмысленности?
Сохраняет ли он надежность после обновлений?
Это не проблемы с кодом.
Это проблемы с поведением.
Поскольку агенты искусственного интеллекта становятся частью повседневных продуктов, инженерные разработки будут все больше фокусироваться на проектировании, тестировании и проверке поведения, а не только на реализации.
Вот почему мы строим Крусибл.
Помогаем командам разрабатывать поведение ИИ с измеримой уверенностью.
Pytest для агентов ИИ.
OpenSource #CyberSecurity #Python #AIAgents #BuildInPublic