Один из наиболее привлекательных рабочих процессов ИИ в разработке выглядит так: Напишите подсказку. Получите код. Скопируйте это. Вставьте это. Оно работает. Проблема в том, что «это работает» — это не то же самое, что «это правильно». Код, сгенерированный ИИ, может пройти первое испытание,...
Один из наиболее привлекательных рабочих процессов ИИ в разработке выглядит так:
Напишите подсказку.
Получите код.
Скопируйте это.
Вставьте это.
Оно работает.
Проблема в том, что «это работает» — это не то же самое, что «это правильно».
Код, сгенерированный ИИ, может пройти первый тест, решить очевидную проблему и выглядеть достаточно хорошо, чтобы его можно было зафиксировать.
Но часто только позже мы обнаруживаем, что на самом деле было введено в систему ранее: неправильное предположение, скрытая зависимость, плохой крайний случай, проблема безопасности или решение, которое не соответствует существующей архитектуре.
Имейте в виду: ИИ чрезвычайно умен. ИИ особенно хорош в получении результатов, которые выглядят убедительно.
Это полезно, но и опасно.
Сама уверенность проектов ИИ в том, что он написал код легко и безупречно, опасна.
Чем проще получить результат, тем больше соблазн пропустить ту часть процесса, где мы пытаемся понять, что же мы на самом деле получили.
Вот почему разработка с использованием ИИ не должна останавливаться на «работах».
Вам необходимо проверить:
почему это работает,
в каких условиях это работает,
что произойдет, когда эти условия перестанут применяться,
как это вписывается в остальную систему,
и кто будет поддерживать его шесть месяцев с