Моя демо-версия умерла, когда я закрыл крышку: небольшой пример развертывания

Четверг, 23:00, Галифакс. Я демонстрировал экран своей небольшой демонстрации однокласснику, чувствовал себя умным около четырех минут, а затем закрыл ноутбук, чтобы пойти заварить чай. Когда я вернулся, она набрала вопрос во вкладке и получила счетчик, а потом ничего. Сервер был моим терминалом. Терминалом был мой ноутбук. Ноутбук спал. В этом вся проблема, не так ли? Демо, которое существует только пока вы физически на него смотрите, не является демо. Таким образом, учебный вопрос для этого тематического исследования узок: что на самом деле выходит из строя в первую очередь, когда служба RAG, предназначенная только для ноутбуков, переходит на бесплатный уровень — холодный запуск или бюджет токенов? Мне хотелось узнать, не платя за ответ и не гадая. С чего я начал Конечная точка FastAPI, фрагмент конспектов лекций в качестве контекста и функция ответа, которая ранжировала перекрытие предложений. Никакого векторного хранилища, никакого фреймворка, никакого графического процессора. Предварительные условия нарочито скучные: Python 3.11 плюс fastapi, uvicorn и httpx. Я не буду цитировать точные версии патчей, потому что ваша изменится в течение недели — запустите pipFree>requirements.lock.txt и сохраните этот файл рядом с кодом. Статью можно воспроизвести только в том случае, если вы запишете то, что вы на самом деле установили. Цель