KI-Agent-Architektur erklärt: LLM, Tools, Memory & Orchestrierung

Wenn du AI agents auf Architekturebene verstehst, kannst du bessere Entscheidungen über Implementierung, Anbieterauswahl und Individualisierung treffen. Dieser Artikel erklärt die vier grundlegenden Bausteine moderner AI agents: das LLM als Reasoning-Engine, Tools für Aktionen, Memory für Kontext und Orchestrierung für komplexe Workflows.

Baustein 1: Das LLM (Large Language Model)

Das LLM ist das Gehirn eines AI agents. Es verarbeitet Text, versteht Anweisungen, schließt aus Problemen auf Zusammenhänge und bestimmt, welche Aktionen ausgeführt werden müssen. Zu den populären LLMs, die als Agentenkern eingesetzt werden, gehören GPT-4o (OpenAI), Claude 3.5 Sonnet (Anthropic) und Gemini 1.5 Pro (Google).

Das LLM erhält einen System-Prompt, der die Rolle, die Ziele und die verfügbaren Tools des agents definiert. Auf Basis der Eingabe und des System-Prompts bestimmt das LLM die nächste Aktion: ein Tool aufrufen, weitere Informationen anfordern oder eine Antwort erzeugen.

Baustein 2: Tools

Tools geben einem AI agent die Möglichkeit, in der realen Welt zu handeln. Ohne Tools ist ein LLM nur ein Textgenerator. Mit Tools kann ein agent e-mails versenden, Datenbanken abfragen, APIs aufrufen, Dateien lesen und schreiben, Webseiten scrapen und externe Dienste steuern.

• Web search tools: Im Internet nach aktuellen Informationen suchen
• CRM tools: Kontakte anlegen, Leads aktualisieren, Deals in HubSpot oder Salesforce verwalten
• E-mail tools: E-mails lesen, versenden und beantworten
• Database tools: SQL-Queries ausführen, Daten abrufen und speichern
• Code execution tools: Python-Code für Datenanalyse oder Berechnungen ausführen
• Document tools: PDFs lesen, Word-Dokumente erstellen, Excel-Dateien verarbeiten

Baustein 3: Memory

Memory ist die Komponente, die es einem AI agent ermöglicht, Kontext zu behalten und zu lernen. Es gibt drei Typen von Memory:

• Short-term memory (context window): Die aktuelle Konversation und Aufgabe. Begrenzt auf das context window des LLM (typischerweise 128K-200K tokens).
• Long-term memory (vector database): Gespeichertes Wissen, frühere Interaktionen und gelernte Muster. Gespeichert in einer vector database wie Pinecone oder Weaviate.
• Episodic memory: Konkrete frühere Aufgaben und outcomes, die der agent als Referenz für neue, ähnliche Aufgaben abrufen kann.

Baustein 4: Orchestrierung

Orchestrierung bestimmt, wie ein AI agent komplexe, mehrstufige Aufgaben angeht. Zwei dominante Muster sind die ReAct-Loop (Reason + Act) und multi-agent Orchestrierung.

Bei der ReAct-Loop denkt der agent zunächst über die Situation nach (Reason), führt dann eine Aktion aus (Act) und beobachtet das Ergebnis (Observe), woraufhin sich der Prozess wiederholt, bis das Ziel erreicht ist. Dadurch kann der agent komplexe Aufgaben Schritt für Schritt lösen.

Bei multi-agent Orchestrierung arbeiten mehrere spezialisierte agents zusammen. Ein Orchestrator-agent verteilt Aufgaben auf Sub-agents, die jeweils auf einen bestimmten Bereich spezialisiert sind. Der AI agent von Your Company OS ist zum Beispiel auf einer multi-agent Architektur aufgebaut: Ein zentraler Orchestrator koordiniert Spezialisten-agents für CRM, e-mail, Research und Reporting.

Wie Your Company OS Agents Baut

Your Company OS verwendet eine modulare Architektur, bei der jede Komponente, LLM-Auswahl, Tools, Memory-Strategie und Orchestrierungsmethode, getrennt für den spezifischen Use Case optimiert werden kann. Das führt zu agents, die nicht nur technisch fortschrittlich sind, sondern auch zuverlässig, sicher und skalierbar für den Enterprise-B2B-Einsatz.