К содержимому

C# и .NET LLM API: SDK, запрос и обработка ошибок

OpenAI и Anthropic SDK для .NET.

Установка

Установите клиент в проекте и передайте ключ через переменную RELAY_API_KEY среды.

OpenAI SDK

bash
dotnet add package OpenAI

Anthropic SDK

bash
dotnet add package Anthropic

Первый запрос

Задайте адрес, ключ и идентификатор модели, затем прочитайте текст ответа.

OpenAI SDK

ts
using System.ClientModel;
using OpenAI;
using OpenAI.Chat;

ChatClient client = new(
    model: "gpt-5.6-luna",
    credential: new ApiKeyCredential(Environment.GetEnvironmentVariable("RELAY_API_KEY")!),
    options: new OpenAIClientOptions { Endpoint = new Uri("https://relay-llm.ru/v1") });

ChatCompletion reply = client.CompleteChat("Say hello in one sentence.");
Console.WriteLine(reply.Content[0].Text);

Anthropic SDK

ts
using Anthropic;
using Anthropic.Models.Messages;

AnthropicClient client = new()
{
    ApiKey = Environment.GetEnvironmentVariable("RELAY_API_KEY"),
    BaseUrl = "https://relay-llm.ru",
};

MessageCreateParams parameters = new()
{
    Model = "claude-haiku-5-5",
    MaxTokens = 256,
    Messages = [new() { Role = Role.User, Content = "Say hello in one sentence." }],
};

var message = await client.Messages.Create(parameters);
foreach (var block in message.Content)
{
    if (block.TryPickText(out var text)) Console.WriteLine(text.Text);
}

Потоковый ответ

Поток показывает текст по мере генерации и сохраняет usage, если протокол его отдаёт.

OpenAI SDK

ts
using System.ClientModel;
using OpenAI;
using OpenAI.Chat;

ChatClient client = new(
    model: "gpt-5.6-luna",
    credential: new ApiKeyCredential(Environment.GetEnvironmentVariable("RELAY_API_KEY")!),
    options: new OpenAIClientOptions { Endpoint = new Uri("https://relay-llm.ru/v1") });

await foreach (var update in client.CompleteChatStreamingAsync("Say hello in one sentence."))
{
    if (update.ContentUpdate.Count > 0) Console.Write(update.ContentUpdate[0].Text);
}
Console.WriteLine();

Anthropic SDK

ts
using Anthropic;
using Anthropic.Models.Messages;

AnthropicClient client = new()
{
    ApiKey = Environment.GetEnvironmentVariable("RELAY_API_KEY"),
    BaseUrl = "https://relay-llm.ru",
};

MessageCreateParams parameters = new()
{
    Model = "claude-haiku-5-5",
    MaxTokens = 256,
    Messages = [new() { Role = Role.User, Content = "Say hello in one sentence." }],
};

await foreach (var streamEvent in client.Messages.CreateStreaming(parameters))
{
    if (streamEvent.TryPickContentBlockDelta(out var delta))
    {
        if (delta.Delta.TryPickText(out var text)) Console.Write(text.Text);
    }
}
Console.WriteLine();

Ошибки и повторы

Клиент использует ограниченное число повторов и выводит идентификатор запроса при ошибке.

OpenAI SDK

ts
using System.ClientModel;
using OpenAI;
using OpenAI.Chat;

ChatClient client = new(
    model: "gpt-5.6-luna",
    credential: new ApiKeyCredential(Environment.GetEnvironmentVariable("RELAY_API_KEY")!),
    options: new OpenAIClientOptions { Endpoint = new Uri("https://relay-llm.ru/v1") });

try
{
    ChatCompletion reply = client.CompleteChat("Say hello in one sentence.");
    Console.WriteLine(reply.Content[0].Text);
}
catch (ClientResultException error)
{
    Console.Error.WriteLine($"{error.Status} {error.Message}");
    throw;
}

Anthropic SDK

ts
using Anthropic;
using Anthropic.Exceptions;
using Anthropic.Models.Messages;

AnthropicClient client = new()
{
    ApiKey = Environment.GetEnvironmentVariable("RELAY_API_KEY"),
    BaseUrl = "https://relay-llm.ru",
    MaxRetries = 3,
};

MessageCreateParams parameters = new()
{
    Model = "claude-haiku-5-5",
    MaxTokens = 256,
    Messages = [new() { Role = Role.User, Content = "Say hello in one sentence." }],
};

try
{
    var message = await client.Messages.Create(parameters);
    foreach (var block in message.Content)
    {
        if (block.TryPickText(out var text)) Console.WriteLine(text.Text);
    }
}
catch (AnthropicApiException error)
{
    Console.Error.WriteLine($"{(int)error.StatusCode} {error.Message}");
    throw;
}
Исполняемые варианты: 6 из 8.
Готовы? Три шага, чтобы начатьВойдите в консоль · пополните баланс · создайте API Key