К содержимому
Блог

Как разделить настройки LLM API для dev и prod

Как разделить настройки LLM API для dev и prod

Для разработки и рабочего приложения создайте разные ключи Relay. Base URL и идентификатор модели храните в конфигурации, а секрет передавайте процессу средствами вашей платформы. Это позволяет отозвать тестовый доступ без остановки рабочего сервиса.

Соберите конфигурацию в одном месте

Приложению нужны выбранный протокол, адрес, ключ и модель. Для OpenAI-совместимого клиента адрес: https://relay-llm.ru/v1. Для Anthropic Messages: https://relay-llm.ru. Не определяйте протокол по имени переменной или названию модели.

Используйте один модуль создания клиента. Если адрес записан отдельно в обработчике чата, cron-задаче и worker, при переносе легко оставить часть вызовов на старой конфигурации. Проверьте их явно, прежде чем переключать нагрузку.

Не коммитьте локальное окружение

Локальный .env удобен для разработки, но не должен попадать в Git или сборочный архив. Приложение прочитает его только при наличии соответствующего загрузчика: имя файла само по себе не передаёт переменные процессу.

Пример конфигурации в репозитории должен описывать названия параметров без реальных значений ключей. Порядок передачи переменных для оболочек разобран в руководстве окружения, а выпуск и отзыв ключей доступен в кабинете.

Проверяйте настройки при запуске

До первого сетевого вызова проверьте, что обязательные значения не пусты и адрес соответствует выбранному протоколу. Ошибка запуска с именем отсутствующего параметра полезнее, чем бесконечный цикл неуспешных запросов после деплоя.

В журнал запуска можно записать адрес без секретных параметров, идентификатор модели и версию конфигурации. Ключ, Cookie и Authorization туда не включайте. Передайте новую конфигурацию всему приложению, включая фоновые процессы, затем выполните штатный перезапуск.

Проверьте один вызов из каждой среды

Тест из ноутбука не подтверждает, что рабочий контейнер получил секрет. После деплоя выполните короткую проверку именно из среды приложения и сопоставьте её с журналом Relay.

Если приложение обращается к API из браузера, вынесите вызов в серверный обработчик. Клиентский bundle не подходит для хранения API-ключа, даже если переменная называется «секретной». Схема авторизации и ротации описана в документации.

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.