Kontext für KI-Agenten: So senken Sie Token-Kosten um 60–90 % und behalten die Datenhoheit

von Denis Shokhirev, Enterprise AI Architect aus Freiburg. In meinem DennisCraft AI Studio realisiere ich produktionsreife KI-Systeme für DACH-B2B-Kunden – mit Claude, Supabase, n8n, Doppler und selbst gehostetem Postgres. Bei einer FinTech-Bereitstellung in 2024 explodierten die Token-Kosten im Produktionsbetrieb: Über 3.000 € in einem Monat, weil der Kontextaufbau nicht skaliert wurde. In regulierten Märkten wie Deutschland ist das weder wirtschaftlich noch auditierbar.

Wodurch geraten Token-Kosten außer Kontrolle?

Zu viele Teams injizieren sämtliche Anleitungen, Dokumente und Knowledge-Base-Inhalte in Systemprompts – ein Muster, das in der Entwicklung funktioniert, in der Produktion aber massive Kosten verursacht. In mehreren Projekten habe ich beobachtet, dass über die Hälfte der Token-Anfragen aus redundanten oder doppelten Inhalten bestand.

• Statische Instruktionen bei jedem Request
• Komplette Dokumente im Prompt
• Ungefilterte Suchergebnisse aus der Wissensbasis
• Duplizierter Kontext zwischen Prozessschritten (z. B. in n8n-Workflows)

Architektur-Muster für 60–90 % weniger Token-Verbrauch

Folgende Ansätze habe ich in DACH-Produktivsystemen etabliert. Damit sanken die Token-Kosten in allen Projekten signifikant – ohne Qualitätseinbußen oder Kontrollverlust.

1. Inkrementeller Kontextaufbau

Senden Sie nie die komplette Historie. Sammeln Sie für jeden Schritt nur die aktuell nötigen Kontextelemente. In n8n nutze ich dazu gezielt programmierte Filterfunktionen:

def build_context(messages, required_types):
    context = []
    for msg in reversed(messages):
        if msg['type'] in required_types:
            context.append(msg['content'])
        if len(context) >= 4:  # Tiefe begrenzen
            break
    return "\n".join(reversed(context))

2. Embedding-Search statt Volltext-Injektion

Statt Fließtext oder ganze PDFs in den Prompt zu kopieren, bauen Sie eine Embedding-Suche mit Supabase pgvector oder selbst gehostetem Postgres + pgvector auf. Ziehen Sie nur relevante Absätze für die jeweilige Anfrage heran.

from supabase import create_client
supabase = create_client(url, key)
def search_knowledge(query, top_k=3):
    embedding = get_embedding(query)
    rows = supabase.table("knowledge").select("*").limit(top_k).eq("embedding", embedding).execute()
    return [row['text'] for row in rows['data']]

3. Caching von Prompt-Antwort-Kombinationen

Wiederkehrende Prompts sollten Sie nicht jedes Mal neu beantworten lassen. Speichern Sie häufige Prompt-Hashes samt Antworten in einer eigenen Postgres- oder Supabase-Tabelle zwischen.

def get_or_generate_answer(prompt_hash):
    answer = db.query("SELECT response FROM cache WHERE hash = %s", (prompt_hash,))
    if answer:
        return answer[0]
    else:
        response = call_llm_api(...)
        db.execute("INSERT INTO cache (hash, response) VALUES (%s, %s)", (prompt_hash, response))
        return response

Datenhoheit: Warum Cloud-Vektor-Datenbanken in DACH nicht ausreichen

Für DSGVO- oder BSI-Grundschutz-konforme Systeme sind Cloud-Vektor-Datenbanken (Pinecone, Weaviate) ein Risiko: Daten können außerhalb der EU gespeichert werden, Kontrollmechanismen sind limitiert. Mit selbst gehostetem Postgres und pgvector behalten Sie die volle Hoheit und bestehen Audits in regulierten Branchen.

Sicherheitsprüfung: Statische Analyse und Zugriffskontrolle

Token-Einsparungen sind irrelevant, wenn der Agent Datenlecks erzeugt. Jeder produktive Agent durchläuft bei mir semgrep und bandit zur Prüfung auf SQL-Injection und unsichere API-Aufrufe (siehe semgrep.dev, 2024). Embedding-Index-Zugriffe laufen ausschließlich über Service-Accounts mit minimalen Rechten (Supabase RLS oder Postgres GRANT).

FAQ

Muss ich für Datenhoheit auf Self-hosted Postgres wechseln?

Für DACH-Kunden in regulierten Branchen ist das Pflicht. Cloud-Embedding-Dienste bestehen Audits nicht und gefährden die Compliance.

Lassen sich Token-Kosten wirklich ohne Qualitätsverlust reduzieren?

Ja, mit inkrementellem Kontext, Embedding-Search und Caching sind in der Praxis 60–80 % Einsparung erreichbar.

Welcher Embedding-Stack ist produktionsreif?

Supabase mit pgvector oder selbst gehosteter Postgres. Beide erfüllen Stabilitäts- und Compliance-Anforderungen.

Wie erkennen Sie Datenabfluss durch KI-Agenten?

Statische Analyse (semgrep, bandit), Logging sämtlicher Embedding-Queries und Alerting bei ungewöhnlichen Zugriffsmustern.

Was tun, wenn das LLM mehr Kontext verlangt als nötig?

Geschichte und Embedding-Größe strikt limitieren. Regeln auf Workflow-Ebene (z. B. in n8n) verhindern Kontext-Overhead zuverlässig.

In welcher Phase Ihrer KI-Pipeline explodieren die Token-Kosten unerwartet? Wie steuern Sie Kosten und DSGVO-Compliance im laufenden Betrieb? Ich biete einen kostenlosen 30-minütigen Stack-Audit für DACH-Teams, die produktive KI in regulierten Märkten bauen. Kontaktieren Sie mich auf LinkedIn oder unter @ger_dennis_ai.