GlossarAPIPrompt-Caching

Prompt Caching

Ein Mechanismus der Claude-API, der stabile Teile eines Prompts (z.B. einen langen System-Prompt) zwischenspeichert. Folgeanfragen lesen diesen Präfix deutlich günstiger aus dem Cache, statt ihn erneut voll zu berechnen.

Definition

Ein Mechanismus der Claude-API, der stabile Teile eines Prompts (z.B. einen langen System-Prompt) zwischenspeichert. Folgeanfragen lesen diesen Präfix deutlich günstiger aus dem Cache, statt ihn erneut voll zu berechnen.

Auch bekannt als Prompt-Caching

Warum relevant?

Wenn viele API-Anfragen denselben langen Kontext teilen – ein Handbuch, ein Regelwerk, umfangreiche Anweisungen –, muss dieser Teil nicht bei jeder Anfrage neu verarbeitet werden. Prompt Caching senkt so Kosten und Latenz spürbar. Der Cache greift als Präfix-Match: Eine einzige Byte-Änderung im gecachten Bereich macht alles danach ungültig.

Wo benutzt?

Claude-API über cache_control: {"type": "ephemeral"} auf einem stabilen Block
Reihenfolge des Präfix: tools → system → messages (Stabiles nach vorn)
Verifikation über usage.cache_read_input_tokens (> 0 = Cache-Treffer)

Weiterführend

Kosten senken: Caching, Modellwahl, Batch – Prompt Caching als zentraler Kostenhebel
Die erste Claude-API-Anfrage – Grundlagen der Messages-API

Eine Schnittstelle, über die Programme mit Claude kommunizieren können – ohne Browser oder Desktop-A…

Die maximale Textmenge, die Claude in einer Anfrage verarbeiten kann – gemessen in Tokens. Fable 5, …

Die Grundeinheit, in der KI-Modelle Text verarbeiten. Ein Token entspricht ungefähr einem Wort oder …

← Vorheriger Projects Alle Begriffe Glossar Nächster → Prompt Engineering

Begriffe klar?
Dann anwenden.

Wissen testen, Entscheidungen trainieren oder einen Guide starten.

Im Practice Hub üben Alle Begriffe