К содержимому

Ruby LLM API: SDK, запрос и обработка ошибок

Ruby-клиент OpenAI.

Установка

Установите клиент в проекте и передайте ключ через переменную RELAY_API_KEY среды.

bash
gem install ruby-openai

Первый запрос

Задайте адрес, ключ и идентификатор модели, затем прочитайте текст ответа.

python
require "openai"

client = OpenAI::Client.new(access_token: ENV.fetch("RELAY_API_KEY"), uri_base: "https://relay-llm.ru")

reply = client.chat(
  parameters: {
    model: "gpt-5.6-luna",
    messages: [{ role: "user", content: "Say hello in one sentence." }]
  }
)
puts reply.dig("choices", 0, "message", "content")

Потоковый ответ

Поток показывает текст по мере генерации и сохраняет usage, если протокол его отдаёт.

python
require "openai"

client = OpenAI::Client.new(access_token: ENV.fetch("RELAY_API_KEY"), uri_base: "https://relay-llm.ru")

client.chat(
  parameters: {
    model: "gpt-5.6-luna",
    stream: proc do |chunk, _bytesize|
      print chunk.dig("choices", 0, "delta", "content")
    end,
    messages: [{ role: "user", content: "Say hello in one sentence." }]
  }
)
puts

Ошибки и повторы

Клиент использует ограниченное число повторов и выводит идентификатор запроса при ошибке.

python
require "openai"

client = OpenAI::Client.new(access_token: ENV.fetch("RELAY_API_KEY"), uri_base: "https://relay-llm.ru")

attempts = 0
begin
  attempts += 1
  reply = client.chat(
    parameters: {
      model: "gpt-5.6-luna",
      messages: [{ role: "user", content: "Say hello in one sentence." }]
    }
  )
  puts reply.dig("choices", 0, "message", "content")
rescue Faraday::TooManyRequestsError => error
  raise if attempts == 3
  sleep Integer(error.response[:headers]["retry-after"] || 1)
  retry
rescue Faraday::Error => error
  warn "#{error.response&.dig(:status)} #{error.message}"
  exit 1
end
Исполняемые варианты: 3 из 4.
Готовы? Три шага, чтобы начатьВойдите в консоль · пополните баланс · создайте API Key