GPT 6 Astra: как пользоваться моделью через API
GPT 6 Astra: как пользоваться моделью через API Relay? Создайте ключ в кабинете, выберите gpt-6-astra и отправьте сообщения на https://relay-llm.ru/v1/chat/completions. Для продолжения разговора передайте предыдущий ответ вместе с уточнением. Ниже показан полный диалог из двух вызовов через Python; он не требует подключения к интерфейсу ChatGPT.
GPT 6 Astra: как пользоваться API с первого запроса
Откройте карточку GPT 6 Astra и проверьте текущую цену. ID для кода копируйте целиком: gpt-6-astra. Название в интерфейсе и значение поля model могут выглядеть по-разному.
Создайте ключ в кабинете и сохраните секрет: он показывается один раз. Передайте его серверному процессу через RELAY_API_KEY. Строка sk-demo-not-a-real-key служит только образцом и не авторизует платный запрос. Проверьте баланс и ограничения ключа перед запуском.
Если вы ищете, как пользоваться GPT 6 Astra в России, этот способ относится к API Relay. Ключ Relay не открывает аккаунт ChatGPT и не оплачивает его подписку. Способы и условия пополнения смотрите на странице цен и в кабинете.
Как отправить вопрос и продолжить диалог
В окружении Python должен быть доступен пакет openai. Пример выполняет два платных вызова: сначала объясняет JSON, затем получает пример по тому же разговору. max_tokens ограничивает выход, а не длину входной истории.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["RELAY_API_KEY"],
base_url="https://relay-llm.ru/v1",
)
messages = [
{"role": "system", "content": "Отвечай по-русски, кратко."},
{"role": "user", "content": "Что такое JSON? Дай определение."},
]
def ask(history):
reply = client.chat.completions.create(
model="gpt-6-astra",
messages=history,
max_tokens=256,
)
if not reply.choices:
raise ValueError("Нет вариантов ответа")
choice = reply.choices[0]
if choice.finish_reason != "stop" or not choice.message.content:
raise ValueError("Ответ пуст, оборван или требует отдельной обработки")
return choice.message.content
first = ask(messages)
print(first)
messages.append({"role": "assistant", "content": first})
messages.append({
"role": "user",
"content": "Теперь покажи объект с полем status без пояснений.",
})
print(ask(messages))Сначала в историю добавляется фактический ответ ассистента, затем новый вопрос. Не заменяйте ответ заранее написанной фразой: модель увидит разговор, которого не было. Для проверки полей используйте документацию Chat Completions.
Почему пропадает контекст или обрывается ответ
В этом сценарии Chat Completions получает историю в массиве messages при каждом вызове. Если отправить только «покажи пример», модель не увидит, пример чего вы обсуждали. Храните сообщения на сервере отдельно для каждого диалога и не смешивайте переписки пользователей.
Пустой текст нельзя добавлять в историю как успешный ответ. Проверяйте finish_reason: значение length означает, что ответ упёрся в предел генерации. Увеличьте допустимый выход либо сузьте задачу. Не показывайте оборванный JSON как готовый объект.
Если ответ слишком длинный для вашей задачи, уточните формат: «два предложения», «один объект», «три пункта без вступления». Это инструкция для модели. Проверку числа полей и разбор JSON всё равно выполняет приложение.
Как сократить историю без потери договорённостей
С ростом диалога в новый запрос попадают прежние вопросы и ответы. Это увеличивает вход. Оставляйте системное правило и последние необходимые реплики; завершённые темы удаляйте из контекста по понятному правилу приложения.
Если нужна сводка старой части, сохраните в ней принятые решения и незакрытые вопросы. Даты, суммы и идентификаторы перенесите из исходной записи и сравните после сокращения. Сводка модели тоже может ошибиться. Для обращения «исправь второй пункт» сохраните сам список, иначе такая ссылка потеряет смысл.
Не копируйте весь файл с логами ради одного уточнения. Выберите строки, к которым относится вопрос, удалите секреты и поясните, что вырезано. Ограничение выходных токенов не уменьшит уже отправленный вход.
Что проверить при отказе API
При 401 проверьте секрет и заголовок авторизации. При 403 прочитайте код ошибки и список разрешённых моделей ключа. При 404 сверьте адрес и ID. Отказ 402 требует проверки баланса, лимита ключа или ограничений нового аккаунта, а 429 требует паузы по Retry-After.
Сохраните x-request-id, HTTP-статус и код из ответа. По справочнику ошибок определите, разрешён ли повтор; не запускайте бесконечную отправку одного тела. После успешного вызова сопоставьте модель, токены и цену в журнале кабинета. Отдельный ключ для диалогового приложения позволит остановить его доступ без замены ключей других программ.
FAQ
GPT 6 Astra: как пользоваться многоходовым диалогом?
Передавайте системное правило, нужные прошлые реплики и новый вопрос в messages. Пример выше добавляет ответ ассистента перед уточнением пользователя.
Как пользоваться GPT Astra без интерфейса ChatGPT?
Вызывайте API Relay из своего приложения с ключом Relay и точным ID модели. Настройки и подписка ChatGPT для этого вызова не используются.
Нужно ли отправлять всю историю?
Передавайте часть, без которой непонятен новый вопрос. Храните полную запись отдельно, а сокращённый контекст проверяйте на потерю чисел и решений.