VLESS Proxy

VLESS Proxy (Прокси для Gemini)

Настройка VLESS прокси для доступа к Google Gemini API из регионов с ограничениями.

Когда нужен прокси

Google Gemini API может быть недоступен в некоторых регионах. VLESS прокси позволяет обойти эти ограничения.

Как это работает

Ваш сервер → xray-core (локальный) → VLESS сервер → Google API

1. xray-core запускается локально
2. Создаёт SOCKS5/HTTP прокси на localhost
3. Запросы к Gemini идут через этот прокси
4. Прокси передаёт их на удалённый VLESS сервер
5. VLESS сервер запрашивает Google API

Требования

xray-core

Docker: Уже установлен в образе

Локально:

mkdir -p bin && cd bin
wget https://github.com/XTLS/Xray-core/releases/download/v1.8.7/Xray-linux-64.zip
unzip Xray-linux-64.zip && chmod +x xray

VLESS сервер

Вам нужен VLESS сервер с поддержкой Reality или TLS. Можно:

• Арендовать VPS и настроить самостоятельно
• Использовать коммерческие VPN сервисы с VLESS

Формат VLESS URL

vless://UUID@HOST:PORT?security=SECURITY&pbk=PUBLIC_KEY&sid=SHORT_ID&type=TRANSPORT&flow=FLOW#NAME

Параметры

Параметр	Описание	Пример
UUID	Уникальный идентификатор	a1b2c3d4-...
HOST	Адрес сервера	vless.example.com
PORT	Порт	443
security	Протокол безопасности	reality, tls, none
pbk	Public key (для Reality)	abc123...
sid	Short ID (для Reality)	1234
type	Транспорт	tcp, ws, grpc
flow	Flow control	xtls-rprx-vision
#NAME	Название (опционально)	#MyProxy

Примеры

Reality + TCP:

vless://uuid@host:443?security=reality&pbk=PUBLIC_KEY&sid=SHORT_ID&type=tcp&flow=xtls-rprx-vision#MyVLESS

TLS + WebSocket:

vless://uuid@host:443?security=tls&type=ws&path=/ws#MyVLESS

Настройка в админке

Шаг 1: Создайте Gemini провайдера

1. Перейдите в LLM → Cloud Providers
2. Нажмите "Добавить провайдер"
3. Тип: Gemini
4. Введите API ключ

Шаг 2: Настройте прокси

1. В модальном окне провайдера найдите "VLESS Proxy"
2. Вставьте VLESS URL
3. Нажмите "Тест прокси"

Шаг 3: Проверьте

Тест проверяет:

• Валидность VLESS URL
• Доступность xray-core
• Подключение к VLESS серверу
• Доступ к Google API через прокси

Шаг 4: Сохраните

После успешного теста сохраните провайдера.

API эндпоинты

Эндпоинт	Описание
GET /admin/llm/proxy/status	Статус xray и прокси
POST /admin/llm/proxy/test	Тест VLESS URL
GET /admin/llm/proxy/validate	Валидация URL формата

Статусы

Статус	Описание
🟢 Running	Прокси работает
🟡 Configured	Настроен, но не запущен
🔴 Not configured	VLESS URL не указан
⚪ xray not found	xray-core не установлен

Хранение

VLESS URL хранится в поле config провайдера:

{
  "temperature": 0.7,
  "vless_url": "vless://uuid@host:port?..."
}

Ошибки

Ошибка	Причина	Решение
xray not found	Не установлен xray-core	Установите xray
Invalid VLESS URL	Неверный формат URL	Проверьте формат
Connection refused	VLESS сервер недоступен	Проверьте сервер
Timeout	Медленное соединение	Проверьте сеть

Fallback

Если прокси недоступен, система пытается подключиться напрямую с предупреждением в логах.

Прокси глобален — что это значит для localhost

GeminiProvider выставляет HTTP_PROXY/HTTPS_PROXY на весь процесс (иначе SDK Gemini не подхватывает прокси). Побочный эффект: любой другой HTTP-запрос из оркестратора тоже пойдёт через VLESS — включая обращения к локальным сервисам.

Отсюда два правила, уже зашитые в код:

1. Всё, что ходит в localhost, создаёт httpx-клиент с trust_env=False. Так сделаны VLLMLLMService.client, health-check vLLM в modules/llm/router.py и BridgeClient (WhatsApp-мост). Без этого запрос к 127.0.0.1:11434 уходил в прокси, и админка показывала «vLLM недоступен» при живом сервере.
2. Переменные прокси выставляются только если xray реально поднялся. Раньше при незапустившемся xray HTTP_PROXY оставался указывать на закрытый порт — и рушил всё подряд: health-check, tiktoken, загрузки с HuggingFace. Теперь при неудачном старте провайдер снимает свои значения и работает напрямую, оставив предупреждение в логе.

Симптом, по которому это узнаётся: «локальная модель числится недоступной, хотя curl localhost:11434/v1/models отвечает» — смотрите, не включён ли Gemini-провайдер с прокси.

---

← Cloud-LLM-Providers | Home