Японская версия находится на Note. Все большее число инженеров и авторов используют локальные LLM (через Ollama, LM Studio, vLLM) и генерируют изображения с помощью Gradio/Stable Diffusion непосредственно на своих компьютерах Mac. С современным Apple Silico...
Японская версия находится на Note.
Все большее число инженеров и авторов используют локальные LLM (через Ollama, LM Studio, vLLM) и генерируют изображения с помощью Gradio/Stable Diffusion непосредственно на своих компьютерах Mac. Благодаря современной унифицированной памяти Apple Silicon модели с параметрами 7B и 14B работают на устройстве невероятно быстро. Многие выбирают локальный ИИ специально из соображений конфиденциальности, думая: «Мои данные никогда не покидают мою машину, поэтому они должны быть в безопасности».
Однако в тот момент, когда разработчики хотят протестировать вывод со своего телефона или дополнительного ноутбука, они следуют общим онлайн-руководствам и устанавливают OLLAMA_HOST=0.0.0.0 или передают --host 0.0.0.0.
И тут же открывается критическая слепая зона:
«Подождите… привязка к 0.0.0.0 не просто раскрывает это моему телефону — она позволяет буквально любому человеку в той же сети отправлять запросы на мой Mac без какой-либо аутентификации».
Поскольку локальные инструменты искусственного интеллекта быстро расширяются, уязвимость сети, секреты буфера обмена и форматы файлов моделей остаются опасно упущенными из виду. Вот что на самом деле раскрыто и как мы можем защитить наши машины.
1. Ловушка 0.0.0.0: локальные серверы вывода ИИ по умолчанию не аутентифицированы
Будь то Ollama (11434), LM Studio (1234), Gradio/Stable Diffusion WebUI (7860) или vLLM (8000)