LLM-API
Rufen Sie die KI-Modelle Ihrer Organisation direkt auf, aus Ihrem eigenen Code oder aus Tools wie Coding-Assistenten. Die LLM API unterstützt die Formate von OpenAI, Anthropic und Google Gemini, sodass die meisten bestehenden SDKs und Tools funktionieren, indem Sie die Basis-URL und den Schlüssel ändern.
Basis-URL
Blockbrain
https://api.theblockbrain.ai/genai/v1
STACKIT (EU)
https://api.eu-1.theblockbrain.ai/genai/v1
Authentifizierung
Verwenden Sie einen persönlichen Zugriffstoken von API-Zugriff. Senden Sie ihn in einem dieser Header:
Authorization: Bearer <token>, wie im OpenAI-Formatx-api-key: <token>, wie im Anthropic-Formatx-goog-api-key: <token>, wie im Gemini-Format
Endpunkte
OpenAI
POST /chat/completions, POST /completions, POST /responses, POST /embeddings
Anthropic
POST /messages, POST /messages/count_tokens
Gemini
POST /v1beta/models/{model}:generateContent und :streamGenerateContent
Alle
GET /models listet die Modelle auf, die Ihr Token aufrufen kann
Verwenden Sie für die Gemini-Endpunkte https://api.theblockbrain.ai/genai als Basis und fügen Sie den obigen Pfad hinzu.
Welche Modelle Sie aufrufen können
Sie können die Modelle aufrufen, die in Ihrer Organisation in KI-Modelleaktiviert sind, sowie die Auto-Router Ihrer Organisation. GET /models liefert die genaue Liste für Ihr Token zurück. Ein Modell, das nicht auf der Liste steht, antwortet 403.
Beispiel
Kosten und Limits
Jeder Aufruf verbraucht Compute Blocks, bepreist nach dem Modell, das ihn beantwortet hat. Die Nutzung wird auf Ihr eigenes Limit angerechnet und, falls eines festgelegt ist, auf das Limit des Tokens. Wenn ein Limit erreicht ist, antworten Anfragen 429. Siehe Limit festlegen.
Fehler
401
Das Token fehlt, ist ungültig oder abgelaufen
403
Die LLM API ist für Ihre Organisation nicht aktiviert, oder das Modell ist für Ihr Token nicht verfügbar
429
Ein Compute-Block-Limit ist erreicht
503
Die LLM API ist vorübergehend nicht verfügbar, versuchen Sie es in Kürze erneut

