For the complete documentation index, see llms.txt. This page is also available as Markdown.

LLM-API

Rufen Sie die KI-Modelle Ihrer Organisation direkt auf, aus Ihrem eigenen Code oder aus Tools wie Coding-Assistenten. Die LLM API unterstützt die Formate von OpenAI, Anthropic und Google Gemini, sodass die meisten bestehenden SDKs und Tools funktionieren, indem Sie die Basis-URL und den Schlüssel ändern.

Die LLM API muss für Ihre Organisation aktiviert sein. Wenn das nicht der Fall ist, antworten Anfragen 403 mit llm_api_not_enabled. Kontaktieren Sie Blockbrain, um sie zu aktivieren.

Basis-URL

Hosting
Basis-URL

Blockbrain

https://api.theblockbrain.ai/genai/v1

STACKIT (EU)

https://api.eu-1.theblockbrain.ai/genai/v1

Authentifizierung

Verwenden Sie einen persönlichen Zugriffstoken von API-Zugriff. Senden Sie ihn in einem dieser Header:

  • Authorization: Bearer <token>, wie im OpenAI-Format

  • x-api-key: <token>, wie im Anthropic-Format

  • x-goog-api-key: <token>, wie im Gemini-Format

Endpunkte

Format
Endpunkt

OpenAI

POST /chat/completions, POST /completions, POST /responses, POST /embeddings

Anthropic

POST /messages, POST /messages/count_tokens

Gemini

POST /v1beta/models/{model}:generateContent und :streamGenerateContent

Alle

GET /models listet die Modelle auf, die Ihr Token aufrufen kann

Verwenden Sie für die Gemini-Endpunkte https://api.theblockbrain.ai/genai als Basis und fügen Sie den obigen Pfad hinzu.

Welche Modelle Sie aufrufen können

Sie können die Modelle aufrufen, die in Ihrer Organisation in KI-Modelleaktiviert sind, sowie die Auto-Router Ihrer Organisation. GET /models liefert die genaue Liste für Ihr Token zurück. Ein Modell, das nicht auf der Liste steht, antwortet 403.

Beispiel

Kosten und Limits

Jeder Aufruf verbraucht Compute Blocks, bepreist nach dem Modell, das ihn beantwortet hat. Die Nutzung wird auf Ihr eigenes Limit angerechnet und, falls eines festgelegt ist, auf das Limit des Tokens. Wenn ein Limit erreicht ist, antworten Anfragen 429. Siehe Limit festlegen.

Fehler

Status
Bedeutung

401

Das Token fehlt, ist ungültig oder abgelaufen

403

Die LLM API ist für Ihre Organisation nicht aktiviert, oder das Modell ist für Ihr Token nicht verfügbar

429

Ein Compute-Block-Limit ist erreicht

503

Die LLM API ist vorübergehend nicht verfügbar, versuchen Sie es in Kürze erneut

Um über eine API mit Knowledge Bots, Wissensdatenbanken und Workflows zu arbeiten, siehe die Knowledge Bots API.