Kosten senken: Caching, Modellwahl, Batch

Deine API-Kosten sind einfach zu berechnen: verarbeitete Tokens mal Modellpreis. Genau da setzen vier Hebel an, die die Rechnung deutlich senken – ohne dass die Qualität leidet. Der wichtigste Grundsatz zuerst: erst messen, dann optimieren. Bei einer Handvoll Anfragen pro Tag ist jede Optimierung verfrüht.

Für wen ist das?

Für alle, die Claude produktiv per API einsetzen und sehen, wie die Kosten mit dem Volumen steigen – lange System-Prompts, wiederholte Anfragen mit gleichem Kontext, große Stapel an Aufgaben.

Was lernst du?

• Wie die Modellwahl die Kosten um ein Vielfaches verschiebt
• Wie Prompt Caching wiederkehrende Prompt-Teile fast umsonst macht
• Wann die Batch API 50 % spart
• Wie du max_tokens und effort bewusst einsetzt
• Wie du Tokens korrekt zählst – ohne den falschen Tokenizer

Hebel 1: Das richtige Modell

Das teuerste Modell ist selten das nötige. Die Preise unterscheiden sich um das Zehnfache (pro 1 Mio. Tokens, Input/Output):

Die Faustregel: Starte mit Sonnet, eskaliere nur bei Bedarf zu Opus. Für einfache, hochvolumige Aufgaben wie Klassifikation ist Haiku oft die klügere Wahl. Details zur Modellwahl im Guide Modelle verstehen.

Hebel 2: Prompt Caching

Wenn viele Anfragen denselben langen Kontext teilen – ein Handbuch, ein Regelwerk, umfangreiche Anweisungen –, muss Claude diesen Teil nicht jedes Mal neu verarbeiten. Prompt Caching legt einen stabilen Präfix ab; Folgeanfragen lesen ihn aus dem Cache, was deutlich günstiger ist als normale Input-Tokens.

response = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": LANGER_STABILER_KONTEXT,  # z. B. ein Handbuch oder Regelwerk
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": frage}],
)

print(response.usage.cache_read_input_tokens)  # > 0 = Cache-Treffer

Hebel 3: Batch API

Für große Mengen unabhängiger Anfragen, die nicht sofort beantwortet sein müssen, gibt es die Batch API – rund 50 % günstiger als Einzelanfragen. Du reichst alle Anfragen auf einmal ein und holst die Ergebnisse ab, wenn der Stapel fertig ist. Die genaue Mechanik – custom_id, Status-Polling, unsortierte Ergebnisse – zeigt der Guide Batch & Files API.

Hebel 4: max_tokens und effort bewusst setzen

max_tokens ist eine harte Obergrenze für die Antwortlänge. Zu hoch angesetzt kostet nichts, wenn die Antwort kürzer ausfällt – aber ein realistischer Wert schützt vor Ausreißern. Zusätzlich steuert output_config.effort (low bis max), wie viel Denk- und Token-Aufwand Claude in eine Aufgabe steckt: Für simple, hochvolumige Aufgaben spart ein niedrigerer Effort spürbar.

Token zählen – mit dem richtigen Werkzeug

Bevor du optimierst, willst du wissen, wie viele Tokens ein Prompt kostet. Nutze dafür client.messages.count_tokens(...) – die offizielle Zählung für Claude.

Typische Fehler

• Variabler Inhalt im Cache-Präfix: Ein Zeitstempel oder eine ID im gecachten Bereich setzt den Cache bei jeder Anfrage zurück.
• tiktoken statt count_tokens: Der falsche Tokenizer liefert falsche Zahlen – und damit falsche Kostenschätzungen.
• Batch für Eiliges: Die Batch API ist nicht latenzoptimiert. Für Echtzeit-Antworten ist sie das falsche Werkzeug.
• Teures Modell aus Gewohnheit: Opus oder Fable für eine simple Klassifikation zu nutzen, verbrennt Geld. Erst prüfen, ob Haiku oder Sonnet reichen.

Nächster Schritt

Kosten im Griff – jetzt zur Königsdisziplin: Der Guide Eigene Agenten mit der API bauen zeigt, wann sich ein Agent lohnt und wie der Agent-Loop funktioniert.