К содержимому
Блог

GPT 6 Astra: как пользоваться моделью через API

GPT 6 Astra: как пользоваться моделью через API

GPT 6 Astra: как пользоваться моделью через API Relay? Создайте ключ в кабинете, выберите gpt-6-astra и отправьте сообщения на https://relay-llm.ru/v1/chat/completions. Для продолжения разговора передайте предыдущий ответ вместе с уточнением. Ниже показан полный диалог из двух вызовов через Python; он не требует подключения к интерфейсу ChatGPT.

GPT 6 Astra: как пользоваться API с первого запроса

Откройте карточку GPT 6 Astra и проверьте текущую цену. ID для кода копируйте целиком: gpt-6-astra. Название в интерфейсе и значение поля model могут выглядеть по-разному.

Создайте ключ в кабинете и сохраните секрет: он показывается один раз. Передайте его серверному процессу через RELAY_API_KEY. Строка sk-demo-not-a-real-key служит только образцом и не авторизует платный запрос. Проверьте баланс и ограничения ключа перед запуском.

Если вы ищете, как пользоваться GPT 6 Astra в России, этот способ относится к API Relay. Ключ Relay не открывает аккаунт ChatGPT и не оплачивает его подписку. Способы и условия пополнения смотрите на странице цен и в кабинете.

Как отправить вопрос и продолжить диалог

В окружении Python должен быть доступен пакет openai. Пример выполняет два платных вызова: сначала объясняет JSON, затем получает пример по тому же разговору. max_tokens ограничивает выход, а не длину входной истории.

python
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["RELAY_API_KEY"],
    base_url="https://relay-llm.ru/v1",
)
messages = [
    {"role": "system", "content": "Отвечай по-русски, кратко."},
    {"role": "user", "content": "Что такое JSON? Дай определение."},
]

def ask(history):
    reply = client.chat.completions.create(
        model="gpt-6-astra",
        messages=history,
        max_tokens=256,
    )
    if not reply.choices:
        raise ValueError("Нет вариантов ответа")
    choice = reply.choices[0]
    if choice.finish_reason != "stop" or not choice.message.content:
        raise ValueError("Ответ пуст, оборван или требует отдельной обработки")
    return choice.message.content

first = ask(messages)
print(first)
messages.append({"role": "assistant", "content": first})
messages.append({
    "role": "user",
    "content": "Теперь покажи объект с полем status без пояснений.",
})
print(ask(messages))

Сначала в историю добавляется фактический ответ ассистента, затем новый вопрос. Не заменяйте ответ заранее написанной фразой: модель увидит разговор, которого не было. Для проверки полей используйте документацию Chat Completions.

Почему пропадает контекст или обрывается ответ

В этом сценарии Chat Completions получает историю в массиве messages при каждом вызове. Если отправить только «покажи пример», модель не увидит, пример чего вы обсуждали. Храните сообщения на сервере отдельно для каждого диалога и не смешивайте переписки пользователей.

Пустой текст нельзя добавлять в историю как успешный ответ. Проверяйте finish_reason: значение length означает, что ответ упёрся в предел генерации. Увеличьте допустимый выход либо сузьте задачу. Не показывайте оборванный JSON как готовый объект.

Если ответ слишком длинный для вашей задачи, уточните формат: «два предложения», «один объект», «три пункта без вступления». Это инструкция для модели. Проверку числа полей и разбор JSON всё равно выполняет приложение.

Как сократить историю без потери договорённостей

С ростом диалога в новый запрос попадают прежние вопросы и ответы. Это увеличивает вход. Оставляйте системное правило и последние необходимые реплики; завершённые темы удаляйте из контекста по понятному правилу приложения.

Если нужна сводка старой части, сохраните в ней принятые решения и незакрытые вопросы. Даты, суммы и идентификаторы перенесите из исходной записи и сравните после сокращения. Сводка модели тоже может ошибиться. Для обращения «исправь второй пункт» сохраните сам список, иначе такая ссылка потеряет смысл.

Не копируйте весь файл с логами ради одного уточнения. Выберите строки, к которым относится вопрос, удалите секреты и поясните, что вырезано. Ограничение выходных токенов не уменьшит уже отправленный вход.

Что проверить при отказе API

При 401 проверьте секрет и заголовок авторизации. При 403 прочитайте код ошибки и список разрешённых моделей ключа. При 404 сверьте адрес и ID. Отказ 402 требует проверки баланса, лимита ключа или ограничений нового аккаунта, а 429 требует паузы по Retry-After.

Сохраните x-request-id, HTTP-статус и код из ответа. По справочнику ошибок определите, разрешён ли повтор; не запускайте бесконечную отправку одного тела. После успешного вызова сопоставьте модель, токены и цену в журнале кабинета. Отдельный ключ для диалогового приложения позволит остановить его доступ без замены ключей других программ.

GPT-6 Astra0,78 $ за 1 млн входных токенов

FAQ

GPT 6 Astra: как пользоваться многоходовым диалогом?

Передавайте системное правило, нужные прошлые реплики и новый вопрос в messages. Пример выше добавляет ответ ассистента перед уточнением пользователя.

Как пользоваться GPT Astra без интерфейса ChatGPT?

Вызывайте API Relay из своего приложения с ключом Relay и точным ID модели. Настройки и подписка ChatGPT для этого вызова не используются.

Нужно ли отправлять всю историю?

Передавайте часть, без которой непонятен новый вопрос. Храните полную запись отдельно, а сокращённый контекст проверяйте на потерю чисел и решений.

Посмотреть модель

Модели из статьи

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.