Context Engineering für LLMs: Ultimativer Guide mit Erklärung und Beispielen (2025)

Context Engineering ist ein neues Gebiet in der künstlichen Intelligenz, das sich darauf konzentriert, wie Informationen in KI-Systeme eingespeist werden. Es ist ähnlich zu Prompt Engineering, beleuchtet aber einen anderen Aspekt des Promptes. Tobi Lutke beschreibt es als “the art of providing all the context for the task to be plausibly solvable by the LLM.” Philipp Schmid als

Context Engineering is the discipline of designing and building dynamic systems that provides the right information and tools, in the right format, at the right time, to give a LLM everything it needs to accomplish a task.

Auch wenn Context Windows immer größer werden, bleibt es essentiell der KI die richtigen Inhalte bereitzustellen. Insbesondere bei KI-Agenten. Viele Probleme bei Agenten sind nicht auf technische Mängel zurückzuführen, sondern auf unzureichenden Context.

Was ist Context Engineering?

Context Engineering bezieht sich auf die Gestaltung von Systemen, die festlegen, welche Informationen ein KI-Modell erhält, bevor es eine Antwort generiert. Es ist also nicht der Prompt per se, sondern alle Bestandteile, womit das LLM gefüttert wird, bevor es eine Aktion durchführt. Die Kunst ist also nicht das richtige Prompting, sondern die Auswahl und Pflege dieser Bestandteile.

Was much beachtet werden

• Selektivität: Selektive Auswahl der richtigen Bestandteile (siehe unten); zu viel Infos oder Tools führen zum Gegenteil
• Toolauswahl: siehe unten
• Datenauswahl: welche Daten von wo (siehe unten)
• Dynamik: Regelmäßige Aktualisierungen des Context
• Format: Wichtig beim Context Engineering ist vor all wie werden Tabellen, PDFs, Bilder richtig bereitgestellt
• Kontextzusammenfassung: Sie hilft, Informationen zu verdichten, um die KI nicht zu überfordern, und stellt sicher, dass nur die nötigsten Details verarbeitet werden.

Context Engineering: Welche Bestandteile gibt es

Zu den wichtigsten Bestandteilen des Contexts gehören:

• Prompt Engineering, spezielle den System Prompt: Definieren, wie die KI bei Interaktionen reagieren soll.
• User Input: Konkrete Fragen oder Aufgaben, die Benutzer an die KI stellen.
• Short-Term Memory: Alle Interaktionen, die der User in der aktuellen Session gemacht hat. Informationen, die im aktuellen Dialog wichtig sind.
• Long-Term Memory: Die persistente, historische Wissensdatenbank. Wissen über Benutzerpräferenzen (Anpassung der KI-Interaktion basierend auf den Vorlieben der Benutzer.) und frühere Interaktionen. Dies fällt oft mit einem RAG-System zusammen, welches auf APIs, sonstige operative Systeme, PDFs etc. zugreif.
• RAG-Systeme: Hier geht es um die Abfrage neuer, relevanter Daten in Echtzeit.
• Verfügbare Tools: Die Tools, die der Agent aufrufen kann.
• Strukturierte Ausgabe: Vorgaben, wie die Antworten der KI formatiert sein sollen, z.B. in JSON.
• Interaktive Feedbackschleifen: Mechanismen zur kontinuierlichen Verbesserung der KI-Interaktionen basierend auf Benutzerreaktionen.
• Semantischer Graph als Glossar und Ontologien
• Der Einsatz von Metadaten (siehe auch Datacamp)

Vorteile von Context Engineering

Context Enginnering macht aus “flashy demo”, belastbare Systeme, die wiederkehrende in produktiven Umgebungen genutzt werden können. Als Beispiel der Einsatz von KI für Content Erstellung.

Dieser einfache Prompt funktioniert:

„Schreibe einen Blogpost über Homeoffice.“

Das LLM liefert einen allgemeinen unspezifischer Text:

Homeoffice: Die neue Arbeitswelt zwischen Küche und Schreibtisch

In den letzten Jahren hat sich das Homeoffice von einer Ausnahme zur neuen Normalität für viele Büroangestellte entwickelt. …

Der Agent mit Context. liefert einen EEAT-würdigen, spezifischen und einzigartigen Text:

Seit über zwei Jahren arbeite ich – wie viele meiner Leser – im Homeoffice. Für uns Freelancer bringt das Vorteile, aber auch echte Hürden. Mein wichtigster Tipp für den Alltag: Klare Grenzen zwischen Arbeit und Freizeit setzen! Ich teile hier drei Strategien, die mir geholfen haben und die du einfach umsetzen kannst...

Der Text ist spezifisch, weil, der Context folgendes enthält:

• Zielgruppe: Wer liest normalerweise deinen Blog? (z.B. Freelancer, Führungskräfte)
• Sprachstil: Welcher Stil wird bevorzugt? (z.B. locker, praxisorientiert)
• Vorerfarhrung: Gibt es spezielle Erfahrungen, auf die Bezug genommen werden soll? (z.B. eigene Herausforderungen im Homeoffice)
• Medien: Sollen Bilder, Quellen oder Tipps eingebunden werden?
• Erfahrungswerte: Themen, die in letzter Zeit auf deinem Blog gut angekommen sind.

Context Engineering vs. Prompt Enginneering

Zu Beginn der Agent-Entwicklung lag der Fokus auf dem Prompt Engineering. Wenn auch diese immer noch wichtig ist, zeigte sich, dass vor allem bei komplexeren Anwendungen dies nicht ausreicht, wenn die KI zu wenig über den Case weiß.

Prompt Engineering ist immer noch wichtig, ist für mich aber ein Teilbereich des umfassenderen Context Engineerings geworden. Hierbei geht es darum, der KI nicht nur isolierte Fragestellungen zu schicken, sondern ein vollständiges, relevantes Informationspaket bereitzustellen, um die Qualität der Antworten maßgeblich zu verbessern.

Herausforderungen beim Context Engineering

Wie oben bereits erwähnt, kann es passieren, dass der Agent überfordert wird, wenn zu viele Daten bereitgestellt werden. Zusätzlich dazu gibt es eine Reihe an Herausforderungen beim Context Engineering:

• Context poisoning (siehe auch hier): beschreibt, wenn Halluzinationen in der Agentenkette weitergegeben weden
• Context distraction & Context confusion: Trotz wachsender Window Sizes, kann ein zu großer Context, den Agent ablenken. Siehe auch diese Studie
• Context clash: Widersprüchliche Tools und Informationen verwirren den Agent

Häufig gestellte Fragen

Was ist Context Engineering und wie funktioniert es?

Context Engineering bezieht sich auf die Gestaltung und Optimierung von Inhalten, damit sie besser in den Kontext der Nutzer passen. Es bedeutet, Informationen so zu strukturieren, dass sie für den Leser relevant und einfach verständlich sind.

Was ist der Unterschied zwischen Context Engineering und Prompt Engineering?

Prompt Engineering ist ein Teilbereich des Context Engineerings. Hierbei geht es darum, der KI nicht nur isolierte Fragestellungen zu schicken, sondern ein vollständiges, relevantes Informationspaket bereitzustellen, um die Qualität der Antworten maßgeblich zu verbessern.