Системы искусственного интеллекта в здравоохранении часто работают с неполными инструкциями, неоднозначными записями и противоречивой информацией. Надежная система не должна предполагать, что каждый запрос достаточно определен для выполнения. Разработчики могут реализовать cl...
Системы искусственного интеллекта в здравоохранении часто работают с неполными инструкциями, неоднозначными записями и противоречивой информацией. Надежная система не должна предполагать, что каждый запрос достаточно определен для выполнения.
Разработчики могут реализовать механизмы уточнения, которые идентифицируют недостающие параметры, выявляют конфликтующие значения и оценивают, оказывает ли неопределенность существенное влияние на намеченное действие.
Реагирование должно быть чувствительным к риску. Незначительную двусмысленность можно устранить посредством четко сформулированного предположения, когда это необходимо. Неопределенность, связанная с инструкциями по приему лекарств, личностью пациента, важными клиническими деталями или разрешением, может потребовать проверки, прежде чем продолжить.
Для агентных систем разъяснения должны быть частью оркестровки рабочего процесса. Агент должен иметь возможность приостанавливать выполнение, задавать конкретный вопрос, сохранять текущее состояние задачи и возобновлять ее только тогда, когда доступна необходимая информация или одобрение.
Разработчики также должны свести к минимуму ненужные перерывы, расставив вопросы по приоритетности в соответствии с их актуальностью и потенциальным вредом.
Дееспособный медицинский агент не просто выполняет инструкции. Он распознает, когда инструкции недостаточно ясны для безопасного выполнения.
Кэл